Você deve ter visto Emily Rae no Instagram.
Ela tem cabelos longos e secos. Pele brilhante E, assim como qualquer outro influenciador, inúmeras outras imagens postaram destacando os produtos, chalés de esqui e cenários do Nobu de Rhode, mas, ao contrário desses influenciadores, Emily Rae era inexistente. Ela é apenas uma entre um número crescente de criadores de conteúdo gerado por IA. que é criado e operado por desenvolvedores. O aumento on-line fez com que especialistas alertassem que o hacking pode causar danos graves.
Os criadores de conteúdo de IA ocupam cada vez mais o mesmo cenário digital que antes era dominado exclusivamente por humanos. Os feeds do Instagram agora são preenchidos com pessoas, lugares e produtos totalmente informatizados. O mesmo se aplica ao criador humano. Os influenciadores de IA cobrem categorias como moda, estilo de vida, saúde e até espiritualidade. Um dos exemplos mais proeminentes é Yan Mun (@yangmunus), um monge gerado por IA com mais de 2,5 milhões de seguidores no Instagram, que em clipes assustadoramente realistas aparece frequentemente rodeado por vegetação ou templos enquanto partilha conselhos de saúde.
Alguns influenciadores de IA são apresentados por seus criadores como modelos de estilo de vida ou moda. Isso reflete os rostos agora famosos com maiores seguidores e parcerias com marcas lucrativas online. Mas, ao contrário dos seus criadores humanos, as personalidades da IA não envelhecem, não se esgotam, não precisam de pausas nem sofrem flutuações na aparência ou no humor.
Os especialistas dizem que essas diferenças os ajudam a criar um padrão que nenhum ser humano pode realmente igualar. E isso tem um impacto negativo nas pessoas que consomem esse tipo de conteúdo.
Aviso de perigo
A popularidade de Emily Rae mostra o quão confiável esses padrões podem ser estabelecidos. Apesar de estar listada como “AI” tanto em seu nome quanto em sua biografia, @aiemilyrae tem mais de 68.000 seguidores, alguns dos quais deixam comentários adoráveis em suas postagens. Suas imagens geradas por IA têm um estilo impecável e são incansavelmente atualizadas. Apresentando regularmente marcas de roupas contemporâneas e modernas.
disse Kristi Boyd, especialista sênior de confiança em IA do SAS. Semana de notícias O perigo dos influenciadores da IA reside na forma como foram concebidos para enfrentá-los. Mesmo que muitos como Emily Rae tenham revelado que eram falsos.
“No entanto, essas informações muitas vezes ficam enterradas na história, o que requer cliques adicionais”, disse ela.
Ela acrescentou que as plataformas de mídia social são construídas para “rolagem infinita. Não é para parar de perguntar. ‘Quem postou isso?’ Como resultado, ela teme que muitas pessoas nunca registrem de forma significativa que a “pessoa” que estão seguindo não existe de fato. Boyd explica que isso é importante. Porque as pessoas estão neurologicamente programadas para confiar em pessoas que se parecem e agem como elas.
Citando pesquisas internas, mostra que “formas de IA com interações semelhantes às humanas e familiaridade social parecem promover a maior confiança, independentemente da sua fiabilidade ou precisão real”, explica ela sobre as “vulnerabilidades significativas” incorporadas no sistema.
“Não estamos lidando apenas com problemas de design”, disse ela, “estamos lidando com arquiteturas de confiança que funcionam contra os usuários. E quando o influenciador tiver sucesso, suspenderemos nossa descrença e começaremos a confiar na história, não importa quão falsa ela seja.”
Boyd alerta que isso está acontecendo à medida que a infraestrutura social off-line continua a sofrer erosão para os jovens. nos Estados Unidos Terceiros espaços seguros e divertidos, como centros comunitários e shopping centers. e os ambientes públicos não estruturados estão desaparecendo. Como resultado, cada vez mais jovens estão online.
“(Online) está conectado. Mas eles também estão expostos à vida de uma forma mais irrealista ou falsa”, disse ela.
Boyd enfatiza que ela não é psiquiatra. E consideraram razoável sugerir que a exposição repetida a indivíduos com IA poderia distorcer os nossos pontos de referência sociais.
“Isso define como acreditamos que são as pessoas, os corpos e as vidas ‘normais’”, disse ela.
Algumas pessoas temem que o mesmo efeito de Emily Rae possa ser mais grave.
Em 2025, o CEO da IA da Microsoft alerta para o aumento do “risco de psicose”. E exortando a sociedade a lutar contra tecnologias que podem alterar fundamentalmente o nosso sentido de individualidade e sociedade, Mustafa Suleyman alerta que as pessoas podem começar a acreditar na “ilusão da IA como uma entidade consciente” tão fortemente que apoiam os direitos ou a cidadania da IA. Eles consideraram esses momentos decisivos perigosos.
“Precisamos construir IA para pessoas, não para personalidades digitais… A IA complementar é uma categoria completamente nova. E precisamos urgentemente começar a falar sobre cercas”, escreveu ele.
disse Owen Scott Muir, psiquiatra e médico-chefe da Radial. Semana de notícias A questão importante é o tamanho.
“O problema é a capacidade infinita de criar influenciadores de IA que dizem coisas que os humanos não podem imaginar. Na medida em que isso pode estar relacionado a uma psicose específica ou ao risco de psicose de qualquer indivíduo”, disse ele.
Na psicose, explica Muir, as pessoas podem acreditar que eventos neutros têm um significado pessoal especial. Ele alerta que um número infinito de influenciadores de IA aumentará as chances de uma pessoa ser capaz de dissecar equívocos individuais.
Muir aponta a tentativa de assassinato de Ronald Reagan em 1981, que foi alimentada por um sistema de crenças psicológicas envolvendo a atriz Jodie Foster, como um exemplo preventivo. Ele incentiva as pessoas a imaginarem o quão perigoso tal sistema poderia ser se os influenciadores da IA parecessem validar ou amplificar crenças equivocadas.
Outros médicos concentram-se nos efeitos psicológicos cumulativos e mais silenciosos dos criadores de conteúdo de IA.
disse o Dr. Hugo de Waal, psiquiatra consultor de Berkeley, psiquiatra. Semana de notícias Os influenciadores de IA representam a perfeição da engenharia.
“Eles não envelhecem. Não ficam cansados. Não oscilam na aparência ou no temperamento”, disse ele. “À medida que o tempo passa, experimentar esse nível de consistência repetidamente ajuda silenciosamente a normalizar o que as pessoas consideram normal ou desejável.”
Mesmo que os espectadores saibam que os influenciadores são falsos, de Waal alerta que ainda podem se formar laços emocionais.
Para o criador humano A ascensão dos influenciadores da IA corre o risco de remodelar o seu trabalho diário.
Reese Chan (@relishwithreese), uma criadora de conteúdo da vida real com mais de 364.000 seguidores no Instagram, ganhou atenção viral em 9 de fevereiro depois de discutir várias contas de IA, incluindo um monge de IA.
“Acredito que a IA pode ser incrivelmente poderosa se usada de forma ética e transparente”, disse Chan. Semana de notícias“Mas o problema surge quando as pessoas geradas pela IA são apresentadas como pessoas reais. Especialmente quando se posicionam como uma figura de autoridade ou ‘Especialista’ sem credenciais, experiência de vida ou responsabilidade”
Embora ela acredite que os criadores humanos possam resistir à tempestade de Emily Raes, ela diz que agora eles estão lutando com personalidades que podem ser infinitamente adaptadas.
Semana de notícias Entre em contato com Higgsfield AI para obter feedback e conversar com Meta por e-mail.
