Pouvez-vous faire la différence entre un visage généré par l’IA et une personne réelle ?
Une avancée majeure dans le domaine de l’intelligence artificielle réside dans la puissance des images, vidéos et audios hyperréalistes et truqués, ce qui rend difficile la distinction entre ce qui est réel et ce qui est artificiel.
Cette fausse image, comme nous l’avons vu dans les écoles et dans les premiers cas impliquant des victimes très médiatisées, présente un grand danger.
Connaissez l’actualité avec l’application 7NEWS : téléchargez-la maintenant
“La fraude deepfake est un problème réel et croissant”, a déclaré le Dr James Dunn, directeur du UNSW Sydney IDeA Lab, à 7NEWS.com.au.
“Les visages générés par l’IA peuvent rendre plus crédibles les faux profils, les escroqueries amoureuses et les campagnes de désinformation, et Interpol rapporte que des images synthétiques ont été utilisées dans des programmes d’ingénierie sociale dans le monde entier.”
Environ un Australien sur quatre déclare avoir été confronté à une fausse arnaque au cours de l’année écoulée, selon une étude de la Commonwealth Bank.
Au milieu de la lutte contre la fraude deepfake, une équipe de chercheurs dirigée par le laboratoire des émotions et des visages de l’Université nationale australienne (ANU) affirme avoir réussi à former des personnes à identifier ce qui est réel et ce qui est faux lorsqu’il s’agit d’une personne.
“La formation sur les artefacts visuels, comme trouver le sixième doigt ou une boucle d’oreille étrange, a eu un succès limité, en partie parce que l’IA est devenue trop performante et que les fraudeurs ne peuvent pas utiliser des images présentant des défauts évidents”, a déclaré la professeure agrégée Amy Dawel.
Il a été demandé aux personnes participant à l’étude de considérer six qualités perceptuelles au lieu de rechercher un signe « un seul cadeau ».
Dunn explique chacun ci-dessous :
Symétrie: “Les visages générés par l’IA sont souvent assez symétriques. Les vrais visages présentent généralement de petites asymétries naturelles – des sourires légèrement inégaux, une paupière plus basse que l’autre ou d’autres bizarreries subtiles.
Proportionnalité: “Cela a à voir avec la façon dont le visage est dimensionné et positionné. Bien que l’IA puisse parfois produire des proportions inhabituelles, elle crée le plus souvent des visages avec des caractéristiques bien équilibrées et aux proportions conventionnelles.
Attraction: « Les visages générés par l’IA semblent souvent incroyablement attrayants ou raffinés. Il s’agit d’une caractéristique subjective, mais de nombreux visages IA ont un aspect agréable et idéalisé qui semble presque « trop parfait ».
Avantages : “Considérez ce qui rendrait un visage mémorable ou reconnaissable dans une foule. Les visages générés par l’IA tendent souvent vers des caractéristiques moyennes, ce qui les rend plus génériques et moins distinctifs individuellement.”
Expressivité : “Les visages d’IA affichent souvent des émotions relativement sourdes ou retenues. Ils peuvent sourire ou rire, mais leurs expressions peuvent manquer des signaux émotionnels subtils et de la complexité courants dans les photos natives.
Mémorabilité : “Étroitement liés au caractère distinctif, les visages générés par l’IA sont souvent étonnamment difficiles à retenir. Parce qu’ils tendent vers des caractéristiques moyennes, ils ne laissent pas une impression mentale aussi forte que de nombreux visages réels.
Parce que les visages générés par l’IA sont devenus si convaincants, Dunn a déclaré que “souvent, c’est l’ensemble du problème qui constitue le problème plutôt qu’un défaut évident” lorsqu’on essaie de les identifier.
“Un point important que nous avons souligné est que ces caractéristiques se chevauchent délibérément et sont subjectives”, a-t-il déclaré.
“Il y a rarement un seul ‘tell’ qui identifie une image générée par l’IA. Au lieu de cela, l’objectif est de se familiariser avec les modèles que l’IA a tendance à générer et de développer une idée globale du moment où quelque chose ne va pas.
Les chercheurs ont déclaré que tous les participants à l’étude se sont améliorés et que les plus performants ont pu voir les contrefaçons presque à chaque fois.
“C’est incroyable de voir l’amélioration spectaculaire de la capacité des gens à détecter les visages de l’IA”, a déclaré Dawel.
“Nous avons montré que notre formation est efficace pour certains des contrefaçons les plus convaincantes.
“Nous travaillons également sur la manière d’optimiser la formation, de la rendre plus courte et de garantir ses bénéfices dans le temps.”
L’étude a été reproduite par une équipe de l’Université de Victoria au Canada, qui a indiqué que “les résultats n’étaient pas le fruit du hasard”.
La recherche intervient au milieu d’un changement majeur dans le paysage de l’intelligence artificielle en Australie.
Mercredi, le Premier ministre Anthony Albanese a annoncé qu’il superviserait le Bureau de l’IA à son poste, alors que le gouvernement se prépare à introduire de nouvelles normes juridiques pour l’IA et les centres de données.
Cette norme fixera les règles pour les grands centres de données, notamment l’obligation de garantir leur propre alimentation électrique, de payer l’intégralité de leur part des coûts de connexion afin que les factures d’énergie ne soient pas affectées, de réduire la puissance si nécessaire et de disposer de suffisamment d’eau. Le gouvernement a également fait de grandes promesses aux artistes et aux créateurs, en veillant notamment à ce que leurs droits d’auteur ne soient pas violés par les sociétés d’IA.
“Ce cadre de leader mondial implique que l’Australie choisisse de façonner l’avenir plutôt que de laisser l’avenir de l’IA nous façonner”, a déclaré Albanese.
“Ce cadre vise à protéger nos intérêts nationaux et à garantir la certitude en matière de croissance, d’emploi et d’investissement.”
Lisa Given, professeure à l’université RMIT et l’une des fondatrices du Center for Human-AI Information Environments, a déclaré que les Australiens ont toute une série de préoccupations concernant l’IA, depuis les centres de données sur l’énergie et l’eau proches des zones résidentielles jusqu’aux pertes d’emploi potentielles et à la violation des droits d’auteur.
“Relever des défis aussi divers, d’autant plus que la technologie de l’IA se développe à un rythme rapide, justifie une approche coordonnée que ce bureau adoptera”, a déclaré Given.
« Compte tenu des risques connus posés par les technologies d’IA générative, telles que les fausses images qui induisent les clients en erreur ou les contenus hallucinatoires qui désinforment les utilisateurs de chatbots, les Australiens ont besoin de l’intervention du gouvernement pour les protéger.
« La création de ce bureau marque un changement important dans l’approche globale du gouvernement en matière de gestion de l’IA, vers une approche plus concrète et proactive. »
Une grande miss Meta
Michael McQueen, stratège du changement et pionnier de la tendance, a déclaré à Sunrise cette semaine que les Australiens ont adopté l’IA à un rythme incroyable, nombre d’entre eux nommant leurs chatbots et leur donnant même leur sexe.
“C’est très familier maintenant, d’une manière impensable il y a deux ans”, a-t-il déclaré.
Mais certaines limites demeurent, comme Meta l’a découvert lorsque des problèmes de confidentialité l’ont forcé à abandonner son nouvel outil d’IA ce mois-ci.
Muse Image permet aux utilisateurs de produire des images à l’aide d’un compte Instagram public, le géant de la technologie déclarant que « l’objectif est de fournir des outils créatifs utiles et de permettre aux gens de contrôler si leur contenu public peut être référencé de cette manière ».
“Nous avons entendu des commentaires selon lesquels cette fonctionnalité n’avait pas atteint son but et n’était donc plus disponible”, a déclaré Meta.
SAG-AFTRA, le syndicat qui représente les acteurs et autres professionnels des médias, s’en est félicité.
“Les dangers des répliques numériques non consensuelles étant bien connus, une fonctionnalité qui encourage ce comportement n’est pas judicieuse”, a déclaré un porte-parole du syndicat.
L’ANU Emotions and Faces Lab aimerait entendre les personnes intéressées par la formation à la détection des visages par l’IA ou par la participation à d’autres études sur les visages de l’IA.
