THIBODAUX, Louisiana (AP) – As provocações eram constantes. Fotos nuas geradas por inteligência artificial de uma menina de 13 anos e suas amigas circularam nas redes sociais e se tornaram assunto de conversa em uma escola de ensino médio da Louisiana.
As meninas imploraram por ajuda, primeiro ao orientador da escola e depois ao delegado do xerife designado para a escola. No entanto, as fotos foram compartilhadas no Snapchat, um aplicativo que exclui mensagens segundos depois de visualizá-las, e os adultos não conseguiram encontrá-las. O diretor tinha dúvidas se eles existiam.
As fotos continuaram a se espalhar entre as crianças. Quando uma menina de 13 anos embarcou num ônibus escolar na paróquia de Lafourche, no final do dia, um colega de classe mostrou um deles a um amigo.
“Aí fiquei com raiva”, lembrou o aluno da oitava série durante a audiência disciplinar.
Farta, ela atacou o menino no ônibus, convidando outras pessoas para se juntarem a ela. Ela foi expulsa da Sixth Ward Middle School por mais de 10 semanas e enviada para uma escola alternativa. Ela disse que o menino que ela e suas amigas suspeitavam de ter criado as imagens não foi enviado com ela para esta escola alternativa. Os advogados da menina de 13 anos dizem que ele evitou completamente a disciplina escolar.
Quando o departamento do xerife assumiu este caso, eles tomaram a atitude oposta. Eles acusaram dois meninos acusados de compartilhar fotos vulgares – não a menina.
O episódio da Louisiana destaca o terrível potencial dos deepfakes de IA. Eles podem e realmente viram a vida das crianças – na escola e em casa. E embora as escolas estejam a trabalhar para incorporar a inteligência artificial no ensino, muitas vezes fazem pouco para se prepararem para o impacto que as novas tecnologias significam no cyberbullying e no assédio.
Mais uma vez, as crianças utilizam cada vez mais as novas tecnologias para prejudicar umas às outras e os adultos são deixados para trás, disse Sergio Alexander, investigador associado da Texas Christian University com foco em novas tecnologias.
“Quando ignoramos os danos digitais, o único momento que vemos é quando a vítima finalmente desiste”, disse Alexander.
Na paróquia de Lafourche, o distrito escolar seguiu todos os seus protocolos para denunciar má conduta, disse o Superintendente Jarod Martin em um comunicado. Ele disse que foi apresentada uma “história unilateral” do caso que não ilustrava sua “natureza completa e complexa”.
O pesadelo de uma garota começa com fofoca
Depois de ouvir rumores sobre as fotos nuas, a jovem de 13 anos disse que marchou com dois amigos – um deles quase chorando – até um orientador por volta das 7h do dia 26 de agosto. A Associated Press não divulga seu nome porque ela é menor ou porque a AP normalmente não divulga os nomes das vítimas de crimes sexuais.
Segundo seu depoimento durante uma audiência disciplinar na escola, ela esperava ali por apoio moral, embora inicialmente não percebesse que suas imagens também estavam lá.
No final das contas, uma investigação de uma semana na escola em Thibodaux, cerca de 115 quilômetros a sudoeste de Nova Orleans, descobriu fotos nuas geradas por inteligência artificial de oito estudantes do ensino médio e dois adultos, disseram autoridades distritais e o gabinete do xerife em um comunicado conjunto.
“Nus completos com um rosto sobreposto”, foi como os descreveu o pai da menina, Joseph Daniels.
Até recentemente, a criação de deepfakes realistas exigia algumas habilidades técnicas. A tecnologia agora torna mais fácil baixar uma foto das redes sociais, “nudá-la” e criar um pesadelo viral para um colega de classe desavisado.
A maioria das escolas “está apenas enfiando a cabeça na areia e esperando que isso não aconteça”, disse Sameer Hinduja, codiretor do Centro de Pesquisa sobre Cyberbullying e professor de criminologia na Florida Atlantic University.
O Distrito Escolar da Paróquia de Lafourche estava apenas começando a desenvolver políticas em torno da inteligência artificial. A orientação sobre IA em nível escolar destinava-se principalmente a acadêmicos, de acordo com documentos fornecidos como parte da solicitação de registros. O distrito também não atualizou a sua formação em ciberbullying para enfrentar a ameaça representada pelas imagens sexualmente explícitas geradas pela inteligência artificial. O currículo utilizado pelas escolas era de 2018.
A investigação escolar enfrenta obstáculos
Embora as meninas da Sixth Ward Junior High School não tivessem visto as fotos pessoalmente, elas ouviram falar delas pelos meninos da escola. Com base nessas conversas, as meninas acusaram uma colega e dois alunos de outras escolas de criarem e divulgarem os nus no Snapchat e possivelmente no TikTok.
A diretora Danielle Coriell disse que a investigação não foi concluída naquele dia porque nenhum aluno assumiu a responsabilidade. Uma gravação da audiência disciplinar mostra que um deputado lotado na escola procurou fotos nas redes sociais, sem sucesso.
“Disseram-me que eram apenas boatos e fofocas”, disse o pai da menina, lembrando-se de uma conversa que teve com um conselheiro escolar naquela manhã.
Contudo, a rapariga estava infeliz e o relatório policial mostrou que cada vez mais raparigas denunciavam que também elas eram vítimas. A menina de 13 anos voltou à terapeuta à tarde e pediu para ligar para o pai. Ela disse que foi recebida com rejeição.
O pai dela afirma que ela enviou uma mensagem de texto dizendo “Pai” e nada mais. Eles não conversaram. Incapaz de se conter, a menina mandou uma mensagem para a irmã: “Não tem solução”.
Quando o dia escolar terminou, o diretor ficou cético. Na audiência disciplinar, o advogado da menina perguntou por que o delegado do xerife não verificou o telefone do menino acusado pelas meninas e por que ele foi autorizado a viajar no mesmo ônibus que a menina.
“As crianças mentem muito”, respondeu o Diretor Coriell. “Eles mentem sobre todos os tipos de coisas. Eles exageram muitas coisas todos os dias. Eles fazem isso sem parar há 17 anos. Pelo que eu sei, às 14h, quando verifiquei novamente, não havia fotos.”
Uma briga começa no ônibus escolar
Quando a menina embarcou no ônibus, 15 minutos depois, o menino mostrava ao amigo imagens geradas por inteligência artificial. A menina afirma que o telefone do menino mostrava fotos falsas de nus de seus amigos, afirmação que foi apoiada por uma foto tirada em um ônibus. Martin, o diretor da escola, disse na reunião do conselho escolar que o vídeo do ônibus escolar mostrava pelo menos meia dúzia de alunos espalhando as fotos.
“Fui intimidada e provocada por causa do meu corpo o dia todo”, disse a garota na audiência. Ela acrescentou que, quando entrou no ônibus, sua raiva estava aumentando.
Coriell, a diretora, disse que ao ver o menino e seu telefone, deu um soco nele. Como você pode ver no vídeo, o menino encolheu os ombros.
Ela bateu nele pela segunda vez. Então, disse o diretor, a menina perguntou em voz alta: “Por que sou a única que está fazendo isso?” O diretor disse que dois colegas bateram no menino, após o que o garoto de 13 anos subiu em uma cadeira e começou a bater e pisar nele.
Um vídeo da luta foi postado no Facebook. “O sentimento predominante nas redes sociais era de indignação e de exigência de que os estudantes envolvidos na luta fossem responsabilizados”, afirmaram o distrito e o gabinete do xerife num comunicado conjunto divulgado em Novembro.
A menina não tinha histórico de problemas disciplinares, mas foi matriculada em uma escola alternativa porque o distrito decidiu expulsá-la durante todo o semestre – 89 dias letivos.
Algumas semanas depois, o menino é acusado
Foi no dia da audiência disciplinar da menina, três semanas depois da briga, que o primeiro menino foi acusado.
O estudante enfrenta 10 acusações de distribuição ilegal de imagens criadas por inteligência artificial sob uma nova lei da Louisiana, parte de uma onda de leis desse tipo em todo o país. O gabinete do xerife disse que um segundo menino foi acusado de acusações idênticas em dezembro. Nenhum deles foi identificado pelas autoridades devido à idade.
Nenhuma acusação foi feita contra a menina devido ao que o gabinete do xerife chamou de “a totalidade das circunstâncias”.
Na audiência disciplinar, o diretor recusou-se a responder às perguntas dos advogados da menina sobre a disciplina escolar que ameaçava o menino.
Em um comunicado, o distrito disse que as leis federais de privacidade dos estudantes proíbem a discussão de processos disciplinares individuais dos estudantes. Gregory Miller, advogado da menina, disse não ter conhecimento de qualquer disciplina escolar contra o colega acusado de compartilhar as fotos.
No final das contas, o painel expulsou o jovem de 13 anos. Ela estava chorando, disse o pai.
“Ela sentiu como se tivesse sido vítima repetidas vezes – por causa das fotos, porque a escola não acreditou nela e porque a colocaram no ônibus e depois a expulsaram por suas ações”, disse ele em entrevista.
As consequências empurram o aluno para fora do curso
Depois de ser enviada para uma escola alternativa, a menina começou a pular refeições, disse o pai. Incapaz de se concentrar, ela não concluiu nenhum trabalho escolar on-line por vários dias antes de seu pai a matricular em terapia para depressão e ansiedade.
Inicialmente, ninguém percebeu quando ela parou de exercer suas funções, disse seu pai.
“Ela meio que ficou para trás”, disse ele.
Seus advogados apelaram ao conselho escolar e outra audiência foi marcada para sete semanas depois.
A essa altura, já havia passado tempo suficiente para que ela pudesse retornar à antiga escola em liberdade condicional. No entanto, como ela tinha faltado às aulas antes do tratamento para a depressão, o distrito queria que ela permanecesse na unidade alternativa por mais 12 semanas.
Para estudantes suspensos ou expulsos, os efeitos podem durar anos. É mais provável que sejam suspensos novamente. Eles se distanciam dos colegas de classe e têm maior probabilidade de se afastar da escola. É mais provável que tenham notas mais baixas e taxas de graduação mais baixas.
“Ela já estudou o suficiente”, disse um dos advogados da menina, Matt Ory, ao conselho em 5 de novembro. “Ela é uma vítima.
“Ela”, ele repetiu, “é uma vítima”.
O superintendente Martin respondeu: “Às vezes na vida podemos ser vítimas e perpetradores”.
Mas a diretoria vacilou. Um membro, Henry Lafont, disse: “Há muitas coisas que não gosto neste filme. Mas também tento colocar em perspectiva o que ela passou o dia todo.” Ela foi autorizada a retornar ao campus imediatamente. Seu primeiro dia de aula foi em 7 de novembro, embora ela permaneça em liberdade condicional até 29 de janeiro.
Isso significa nada de dança, nada de esportes e nada de atividades extracurriculares. Ela já perdeu as seletivas de basquete, o que significa que não poderá jogar nesta temporada, disse seu pai. Ele acha a situação “dolorosa”.
“Eu esperava que ela fizesse grandes amigos e estudasse juntos no ensino médio e, você sabe, mantivesse todos longe de problemas e no caminho certo”, disse seu pai. “Acho que eles arruinaram tudo.”
___
As atividades educacionais da Associated Press recebem apoio financeiro de diversas fundações privadas. A AP é a única responsável por todo o conteúdo. Encontre os padrões da AP para compromissos filantrópicos, apoiadores e áreas de financiamento em AP.org.
___
Hollingsworth relatou de Mission, Kansas.
