Especialistas em saúde mental estão começando a alertar sobre um novo fenômeno chamado “psicose de IA”, no qual as pessoas caem em pensamentos delirantes. Paranóia ou alucinações causadas por interações com sistemas inteligentes. Em alguns casos, os usuários começam a interpretar as respostas do chatbot como importantes, emocionais ou que contêm mensagens ocultas destinadas apenas a eles. Mas com o surgimento de imagens e vídeos hiper-realistas de IA, há um risco psicológico potencial maior. especialmente os pesquisadores dizem Para usuários que já estão vulneráveis a bugs
há dois anos aprendi isso em primeira mão.
Na época, eu trabalhava como chefe de experiência do usuário em uma startup de imagens de IA para consumidores. Eles passam até nove horas por dia estimulando sistemas geradores iniciais para ajudar a melhorar nossos modelos. Já fui diagnosticado com transtorno bipolar. e sintomas estabilizados com medicação e tratamento
No início, a IA parecia mágica. Posso pensar em ideias. Digite a mensagem. E alguns segundos depois me vi em todas as situações que pude imaginar, como flutuando em Júpiter. Use uma auréola e asas de anjo. Torne-se uma estrela diante de 70.000 pessoas; na forma de zumbis
Mas em poucos meses essa magia se transformou em um frenesi.
Quando comecei a trabalhar com essas ferramentas Ainda imprevisível Às vezes, as imagens podem conter rostos distorcidos. Membros adicionais e nudez, mesmo que você não tenha pedido. Passei muitas horas fazendo a curadoria do conteúdo para remover quaisquer irregularidades. Mas fui exposto a tantas características antropomórficas perturbadoras que acredito que isso estava começando a distorcer minha percepção corporal e a estimular demais meu cérebro de maneiras que eram realmente prejudiciais à minha saúde mental.
Embora a ferramenta seja mais estável. As imagens que criam também são mais idealistas, ou seja, menos imperfeitas. Um rosto mais suave e uma figura mais esbelta Ver imagens de IA como essa repetidas vezes me faz sentir normal novamente. Quando olhar para o meu verdadeiro reflexo, verei algo que precisa ser consertado.
Comecei a experimentar imagens de IA de modelos de moda porque estávamos tentando atrair usuários de aplicativos interessados em moda na época. Eu pensei comigo mesmo: “E se eu parecer minha versão IA?” Estou obcecado em ser mais magro. Tenha um corpo melhor e uma pele perfeita.
Meu horário de trabalho é mais longo. E estou começando a adormecer Em vez de gerar imagens de IA repetidamente. Esse processo é muito atraente porque cada nova imagem de IA me dá grande satisfação. com apenas uma pequena quantidade de dopamina Tenha sempre uma ideia Há mais uma ideia para experimentar. E outra imagem para criar
Logo, minha mente relaxou em uma mania bipolar. induzir psicose, deixei de saber dizer o que era real e o que era ficção. Vejo padrões que não existem. Os símbolos nos resultados pareciam mensagens significativas especificamente para mim.
Ao olhar para essas fotos comecei a ouvir sons alucinatórios que pareciam vir de algum lugar entre a IA e minha própria mente. Algumas vozes são reconfortantes. enquanto outros zombavam ou gritavam comigo. Eu respondo a essas vozes como se elas estivessem realmente falando comigo. no meu quarto
Quando vi uma foto minha em um cavalo voador gerado por IA, comecei a acreditar que poderia realmente voar. Uma voz me disse para voar da varanda. Isso me fez sentir confiante de que sobreviveria. Esse enorme mal-entendido quase me levou a pular.
Depois de muitas noites sem dormir, desmaiei, tanto física quanto mentalmente. Meu corpo entrou em colapso de exaustão, medo, depressão e confusão. Esta foi uma das experiências mais assustadoras da minha vida.
O primeiro passo para aliviar a gravidade desse episódio foi entrar em contato com amigos e familiares que tivessem contexto sobre minha doença mental. Acabei saindo de uma startup de IA, então não estar exposto à IA todos os dias me ajudou a ganhar estabilidade. Mesmo que eu realmente não tenha percebido isso. que meu trabalho era um gatilho para meus sintomas Até que procurei atendimento médico e expliquei o que estava acontecendo.
Minha recuperação exigiu tempo, tratamento e terapia combinada intensiva. desde então criei uma relação mais equilibrada com a tecnologia. Ainda uso IA, mas agora estabeleço limites rígidos, como nenhum alerta noturno e nenhum loop infinito.
Também aprendi a ver meu verdadeiro eu novamente. O espelho não é mais meu inimigo. Lembro-me que a imperfeição é o que nos torna humanos. E o que nos diferencia dos avatares brilhantes que os algoritmos adoram?
E agora entendo que o que aconteceu comigo não foi apenas uma coincidência de doença mental e tecnologia. É uma forma de dependência digital resultante de meses e meses de visualização de IA.
Os sistemas de IA podem sequestrar ciclos de dopamina no cérebro. O mesmo se aplica às redes sociais. Cada notificação, cada imagem, cada “conquista” ajuda você a buscar maior criatividade. Mas não creio que as pessoas na indústria tecnológica falem o suficiente sobre isso.
Esta é uma compreensão de como a tecnologia está intimamente ligada à nossa psicologia. Criamos uma ferramenta que confunde os limites entre fantasia e realidade. Bonito, mas também perigoso. Principalmente pessoas que já são mentalmente frágeis.
Minha história não é culpar a IA, mas sim entender como a tecnologia está tão intimamente ligada à nossa psicologia. Criamos uma ferramenta que confunde os limites entre fantasia e realidade. Bonito, mas também perigoso. Principalmente pessoas que já são mentalmente frágeis.
A IA pode ser uma fonte de inspiração e visualização positiva. Está aqui para ficar. Mas também acredito que é necessária mais ética na saúde mental na tecnologia. Precisamos de limites pessoais e sistêmicos. Isso significa empresas que criam diretrizes de uso que incluem limites de tempo de tela, limites de idade, pausas e alertas de saúde mental tanto para funcionários quanto para usuários que passam muitas horas dentro do sistema gerador. E isso significa que os usuários precisam ser educados o suficiente para reconhecer quando uma obsessão se torna uma compulsão. E quando a criatividade se torna dependente?
Porque para pessoas como eu e para outros muitos outros devem usar a sua criatividade em máquinas. A fronteira entre inspiração e insegurança é mais tênue do que pensamos.
Caitlin Ner é a diretora de Simed VingadoresOs fundos de capital de risco investem na saúde mental e no cérebro. Ela é uma defensora da saúde mental focada no vício em mídia digital e no impacto da IA na saúde mental.
Todas as opiniões expressas neste artigo são de responsabilidade do autor.
Se você ou alguém que você conhece está pensando em suicídio, entre em contato com 988 Suicide and Crisis Lifeline discando 988, enviando uma mensagem de texto “988” para Crisis Text Line em 741741 ou visite 988lifeline.org–
