Les écoles australiennes sont averties de réfléchir à deux fois avant de publier en ligne des photos d’élèves et de membres du personnel.
Le commissaire à la sécurité électronique a déclaré qu’il y avait une augmentation du nombre d’images prises sur les sites Web des écoles et sur les pages des réseaux sociaux avant d’être manipulées à l’aide de l’IA, puis partagées ailleurs sur le Web.
Regardez la vidéo ci-dessus : les écoles sont mises en garde contre la manipulation par l’IA des photos des élèves
Connaissez l’actualité avec l’application 7NEWS : téléchargez-la maintenant
Dans le pire des cas, des vêtements ont été enlevés pour en faire un matériel d’exploitation d’enfants.
Les enseignants sont également devenus des victimes.
« Entre janvier et mars de cette année, nous avons reçu plus de 100 comptes anonymes ciblant des écoles et leur personnel, notamment des vidéos de danse générées par l’IA, des échanges de visages, des mèmes et des histoires fabriquées sur les directeurs et les enseignants », a déclaré Julie Inman-Grant, commissaire à la sécurité électronique.
“Presque toutes les images proviennent de comptes de réseaux sociaux ou de sites Web d’écoles.”
L’éducateur en cybersécurité, Paul Litherland, affirme que les écoles doivent repenser leur approche.
“Je pense que les écoles devraient se concentrer sur la quantité exacte de contenu qu’elles publient désormais, sur la manière dont les élèves sont identifiés”, a-t-il déclaré à 7NEWS.
La chanteuse Kate Ceberano a “presque vomi” après avoir récemment découvert une fausse photo d’elle pleurant la mort du regretté acteur Sam Neill.
De nouvelles directives publiées mardi encouragent des règles de consentement parental plus strictes avant le partage des images et un examen de ce qui est mis en ligne.
Le commissaire à la sécurité électronique a également averti les sociétés d’IA et de médias sociaux qu’elles pourraient être confrontées à des amendes de 54 millions de dollars si le contenu illégal sur leurs plateformes n’est pas empêché ou géré correctement.
Certaines écoles ont choisi de ne pas montrer les visages sur les photos, et d’autres ont utilisé leur propre IA pour montrer des étudiants fictifs dans des publicités.
Les bulletins scolaires sont de plus en plus protégés par mot de passe ou imprimés et envoyés à la maison avec les élèves.
