Comment tromper les systèmes qui nous surveillent ? C’est la question à laquelle ont tenté de répondre Emily Wenger et Shawn Shan, 2 doctorants du SAND Lab, au sein de l’Université de Chicago (Etats-Unis). Avec une idée plutôt élémentaire : polluer les bases de données des outils de reconnaissance faciale déployés à grande échelle pour les induire en erreur. De leurs travaux résulte un projet, devenu logiciel opérationnel, baptisé Fawkes, en hommage au masque de Guy Fawkes popularisé par le film V pour Vendetta et le collectif Anonymous. Il est accessible à tous les internautes.
Pour comprendre le fonctionnement de Fawkes, il faut revenir sur celui de certains systèmes de reconnaissance faciale, parmi lesquels celui de Clearview AI. Décrite dans un article du New York Times publié en janvier 2020, l’application est utilisée par des centaines de polices américaines, ainsi que par le FBI. Sa force est d’“Aspirer” des millions de photos publiques provenant des réseaux sociaux, 3 milliards de clichés auraient ainsi été collectés, afin de générer une immense base de données associant des images à des noms et des adresses. Des informations ensuite utilisées par la police pour identifier un suspect en quelques minutes.
Pour les créateurs de Fawkes, le meilleur moyen de venir à bout de ce système est de lui fournir des images inutilisables. Le logiciel est ainsi capable de modifier très légèrement une image -par exemple une photo de profil Facebook- en y glissant de minuscules détails provenant du visage d’un tiers n’ayant aucune ressemblance. Une transformation peu perceptible à l’œil nu, qui, une fois la photo “aspirée” dans la base de données, va empêcher le système de reconnaissance faciale de reconnaître l’individu concerné.
Pour ses premiers essais, Fawkes a ainsi intégré des éléments du visage de l’acteur Patrick Dempsey à celui de l’actrice Gwyneth Paltrow. Avec succès.
Michael Jackson : ce célèbre acteur revient sur les accusations de pédophilie du King de la pop
D’après les chercheurs, leur outil est parvenu à induire en erreur les principaux systèmes de reconnaissance faciale déployés à grande échelle, dont ceux de Microsoft et d’Amazon. Leur logiciel est disponible gratuitement pour les utilisateurs Mac et Windows. Une application devrait prochainement voir le jour.
Les promesses de Fawkes n’ont pour l’heure pas convaincu tous les spécialistes du secteur. Si le système peut à court-terme s’avérer efficace à titre individuel, il faudrait qu’il soit déployé à grande échelle pour avoir un effet systémique.
Interrogé par le New York Times, Facebook précise avoir des équipes internes dédiées à la mise au point de tels systèmes, avec la possibilité de les activer par défaut pour tous les utilisateurs. Shawn Shan, créateur de Fawkes, indique justement être en stage chez Facebook, au sein de ces équipes.
