L’invisibilité est un thème fictif et reste tout de même le fruit de l’imagination de l’être humain.  Dans le folklore, la mythologie et les contes de fées, une cape d'invisibilité apparaît soit comme un objet magique, soit comme un élément porté par un héros pour accomplir une quête.

Depuis l'avènement de la surveillance de masse, de plus en plus utilisée dans certains pays, avec des algorithmes capables de vous retrouver grâce aux traits de votre visage ou à vos tatouages, de nombreuses études sont menées pour essayer d'enrayer ce phénomène "d'espionnage".

C'est dans ce cadre que des chercheurs de Facebook et de l'Université du Maryland ont fabriqué une série de sweatshirts et de T-shirts qui peuvent tromper les algorithmes de surveillance en rendant le porteur imperceptible aux détecteurs présents dans les caméras, vous permettant ainsi d'échapper à la surveillance de masse. Appelés "invisibility cloaks for A.I.", ces sweatshirts risquent d'avoir rapidement le vent en poupe.

Comment ça marche?

À l'aide d'ensembles de données de détection standard, ils ont formé des modèles qui suppriment les scores d'objectivité produits par une gamme de détecteurs couramment utilisés. En bref, ils ont examiné le fonctionnement de certains des algorithmes qui permettent de détecter les personnes dans les images, puis les ont subverti en faisant croire au code qu'il regardait autre chose.

Ces algorithmes utilisent une approche assez simple pour identifier les objets: ils recherchent des motifs de pixels dans une nouvelle image et essayent de les identifier. Les humains peuvent utiliser des indices complexes ou des connaissances du monde réel lorsqu'ils cherchent quelque chose de nouveau, mais les algorithmes utilisent simplement la correspondance de modèles. En réalité, les algorithmes de reconnaissance d'image manquent de contexte ou de compréhension des images qu'ils analysent. Comprendre comment ils échouent est une première étape pour créer des algorithmes qui ne tombent pas dans ce genre de piège. Et c'est là que se sont engouffrés les chercheurs.

Créez votre première intelligence artificielle
Apprenez les bases de l’intelligence artificielle ainsi que les algorithmes de machine learning, afin de créer votre propre intelligence artificielle avec le langage de programmation Python et ses librairies: Pandas, Numpy, Scikit-learn et Seaborn.

Afin de créer T-shirts capables de tromper les algorithmes, l'équipe de Facebook et de l'Université du Maryland a diffusé 10000 images de personnes via un algorithme de détection. Lorsqu'une personne était détectée, elle était remplacée avec des changements aléatoires de perspective, de luminosité et de contraste. Un autre algorithme a ensuite été utilisé pour trouver lequel des changements aléatoires était le plus efficace pour tromper l'algorithme, avant de les imprimer sur des t-shirts.

Lorsque ces "motifs" aléatoires étaient imprimés sur des objets physiques, comme des affiches ou des vêtements, les algorithmes de détection étaient encore trompés.

Cependant, comme le notent les chercheurs la précision de ces tests dans le monde réel s'est avérée inférieure à celle des tests réalisés numériquement mais les résultats restent très encourageant: la capacité de l'algorithme de surveillance à reconnaître une personne passe de 100% sans le sweat-shirt à 50% avec le sweat-shirt.

Comme l'expliquent les auteurs du rapport, cette recherche s'inscrit dans un processus de travail menée par le département d'informatique de l'Université du Maryland, dont certains ont rejoint Facebook en 2018 et 2019. Auparavant, le laboratoire a étudié des scénarios pour tromper l'Intelligence Artificielle et les algorithmes de détection des droits d'auteur, comme ceux utilisés par YouTube pour empêcher l'utilisation non autorisée de musique protégée par des droits d'auteur, afin d'attirer l'attention sur la facilité avec laquelle ils étaient contournés.

Le travail réalisé par ces chercheurs pourrait finalement profiter à Facebook dont les algorithmes de reconnaissance d'image manquent de contexte ou de compréhension des images qu'ils analysent. Comprendre comment ils échouent est une première étape pour créer des algorithmes qui ne tombent pas dans les pièges trop nombreux de la désinformation qui sévit sur le réseau social.

Nous ne sommes donc qu'au début d’un processus de recherche qui non seulement rendrait les algorithmes plus résistants aux attaques mais, en théorie, augmenterait considérablement leur précision et leur flexibilité, car leur vision des images deviendrait ainsi moins simpliste.

Il faudrait à la science quelques années de plus pour, éventuellement, mettre ce produit au point. Cependant ces T-shirts ou sweat-shirts imprimé avec le design trompeur d'algorithme sont disponible à la vente, mais pour le moment, cela reste purement esthétique et ces produits ne sont pas réellement au point pour vous permettre de cacher votre identité aux yeux des caméras.

Cet article a été inspiré d'un article publié sur Medium intitulé: "These Hoodies Make You ‘Invisible’ to Some Surveillance Algorithms"

Retrouvez également sur Gomytech: