Un éminent expert en cybersécurité exhorte les parents à examiner les formulaires de consentement aux photos de l’école de leurs enfants, au milieu des avertissements selon lesquels les images des élèves sont collectées et manipulées pour créer du matériel pédopornographique généré par l’IA.
Cet avertissement intervient alors que les rapports faisant état de contenus pédopornographiques générés par l’IA ont augmenté de 1 300 %, suscitant des inquiétudes quant à la manière dont les écoles collectent, stockent et partagent en ligne des photos d’élèves.
REGARDER LA VIDÉO CI-DESSUS : Les écoles mettent en garde contre la menace de maltraitance des enfants causée par l’IA
Connaissez l’actualité avec l’application 7NEWS : téléchargez-la maintenant
Susan McLean, experte en cybersécurité, affirme que de nombreuses écoles s’appuient sur des processus de consentement désuets qui ne parviennent pas à donner aux parents un contrôle essentiel sur la manière dont les images de leurs enfants sont utilisées.
“Beaucoup d’écoles empruntent ce que j’appelle la voie facile ou la voie paresseuse et elles font simplement oui ou non”, a déclaré McLean à Sunrise jeudi.
“Donc, en gros, soit vous acceptez la photographie, soit vous ne l’acceptez pas, ce qui signifie que vos enfants ne reçoivent pas de photos à l’école, qu’ils ne sont pas photographiés lors des réunions, rien de tout cela.”
McLean a déclaré que les parents devraient demander aux écoles des options de consentement plus détaillées leur permettant de choisir où et comment les images sont publiées.
“Cela signifie que vous ne donnez pas au parent la possibilité de dire : ‘Eh bien, vous savez quoi, je suis heureux que mon enfant soit dans le bulletin d’information, mais je ne veux pas que sa photo soit sur les réseaux sociaux'”, a expliqué McLean.
Il a averti que même les images partagées sur les pages des réseaux sociaux des écoles privées ne sont pas à l’abri d’une utilisation abusive.
“Quiconque accède au compte. Même s’il s’agit d’un membre de la communauté scolaire, dès que vous publiez une photo, vous en perdez le contrôle”, a-t-il déclaré.
Bien qu’il soit illégal de créer des contrefaçons d’IA sexuellement explicites pour d’autres sans leur consentement, les applications qui peuvent générer du contenu restent légales et largement disponibles sur les magasins d’applications.
McLean s’est demandé pourquoi les applications n’étaient pas interdites, affirmant que des restrictions plus strictes rendraient illégal l’accès à la technologie.
“Cela ne veut pas dire que cela va s’arrêter, mais cela rendra certainement plus difficile pour les gens de trouver des applications et de les utiliser”, a-t-il déclaré.
Malgré l’augmentation alarmante du matériel abusif lié à l’IA, McLean insiste sur le fait que les parents ne devraient pas abandonner complètement les médias sociaux.
“Il existe des moyens de gérer cela. Ce n’est pas une obligation : n’utilisez pas les réseaux sociaux, ne faites pas ceci, ne faites pas cela”, a-t-elle déclaré.
“Nous avons besoin d’une meilleure compréhension de la manière dont les écoles peuvent gérer cela sans nuire à leurs élèves. Et c’est possible.”
