Vous vous souvenez de l'image virale du pape François vêtu d'une doudoune blanche et d'un crucifix orné de bijoux, comme s'il sortait d'un défilé de streetwear ? Nous avons déjà vu des deepfakes, mais rares sont ceux qui ont eu un tel impact. Maintenant, Google a publié un outil pour empêcher des images comme celle-ci de se propager sans contrôle.
Présentation de SynthID : comment ça marche
DeepMind, un laboratoire de recherche en IA acquis par Google, a récemment annoncé le lancement de ID de synthétiseur, un outil de filigrane conçu spécifiquement pour identifier les images générées par l'IA.
« Être capable d'identifier le contenu généré par l'IA est essentiel pour permettre aux gens de savoir quand ils interagissent avec les médias générés et pour aider à prévenir la propagation de la désinformation », a déclaré l'équipe DeepMind. Contrairement aux techniques de filigrane traditionnelles qui reposent sur des filigranes visibles ou des métadonnées, qui peuvent être perdues, DeepMind intègre un filigrane numérique directement dans les pixels d'une image. Cela signifie que même si l'image est modifiée par un recadrage, un redimensionnement, des filtres ou des ajustements de luminosité, le filigrane reste intact. Même si l’œil humain ne le détecte pas, un logiciel de détection peut l’identifier.
On ne révèle pas grand-chose de plus sur la technologie. Le PDG Demis Hassabis a expliqué à The Verge que « plus vous en révélerez sur la façon dont cela fonctionne, plus il sera facile pour les pirates et les entités néfastes de le contourner ». Actuellement en version bêta, SynthID est disponible pour les utilisateurs d'Imagen, un produit Google Cloud, qui utilisent IA des sommets, une plateforme d'apprentissage automatique basée sur le cloud. Les clients peuvent créer, partager et identifier de manière responsable les images générées par l’IA. Cependant, Hassabis note que la technologie n'est pas infaillible contre les « manipulations extrêmes d'images », mais qu'elle constitue un pas dans la bonne direction.
Quelle est la prochaine étape pour SynthID ?
L'équipe DeepMind travaille à étendre l'accès à SynthID, dans le but de le rendre disponible à des tiers et de l'intégrer dans davantage de produits Google. Cette annonce est intervenue peu de temps après que Google et six grands acteurs de l'IA aient assisté à un sommet à la Maison Blanche au cours duquel ils se sont engagés à investir dans des outils de sécurité et dans la recherche en matière d'IA pour une utilisation responsable. La Maison Blanche a demandé une nouvelle technologie de filigrane comme moyen permettant aux entreprises d’IA de gagner la confiance du public. Selon The Verge, le logiciel s'étendra probablement au contenu audio et visuel.
Ce sommet s'inscrit dans le cadre des efforts continus du gouvernement pour lutter contre les deepfakes. En 2021, le comité du ministère de la Sécurité intérieure et des Affaires gouvernementales a adopté la Loi sur le groupe de travail sur les deepfakes. Du côté le plus léger, les deepfakes peuvent styliser le pape avec humour et de façon tendance. Du côté le plus sombre, elles peuvent conduire à l’instabilité politique, à la fraude et à la manipulation des stocks.
En 2021, Adobe a cofondé l'association à but non lucratif Coalition pour la provenance et l'authenticité du contenu (C2PA) normaliser l’étiquetage du contenu médiatique et lutter contre la désinformation. Ils servent de sceau d’approbation, montrant aux consommateurs qu’un actif n’a pas été manipulé. En raison du boom de l'IA, le nombre de membres du C2PA a augmenté de 56 % au cours des six derniers mois, comme l'a noté MIT Technology Review. Fin juillet, Shutterstock a annoncé qu'il intégrerait le protocole technique du C2PA dans ses systèmes d'IA et ses outils de créativité, notamment le générateur d'images IA.
La emporter
Face à la pression gouvernementale croissante, les entreprises d’IA, grandes et petites, doivent donner la priorité aux efforts responsables en matière d’IA. Que vous utilisiez ou créiez des outils d’IA, une surveillance accrue se profile à l’horizon.
