Meta, TikTok e Snap serão avaliados por seus esforços de segurança juvenil, avaliando se as maiores plataformas de mídia social do mundo estão fazendo o suficiente para proteger a saúde mental dos jovens.
A Coalizão de Saúde Mental, um grupo de organizações focadas em estigmatizar questões de saúde mental, disse terça-feira que está lançando padrões e um novo sistema de classificação para plataformas online. Para o programa Safe Online Standards (SOS), um painel independente de especialistas internacionais avaliará as empresas em parâmetros que incluem regras de segurança, design, moderação e recursos de saúde mental.
TikTok, Snap e Meta – controladora do Facebook e Instagram – serão as primeiras empresas a serem classificadas. Discord, YouTube, Pinterest, Roblox e Twitch também concordaram em participar, disse a coalizão em comunicado à imprensa.
“Esses padrões fornecem ao público uma maneira significativa de avaliar a segurança da plataforma e responsabilizar as empresas – e estamos ansiosos para nos inscrever para avaliar outras empresas de tecnologia”, disse Antigon Davis, vice-presidente e diretor global de segurança da Meta, em um comunicado.
Os executivos do TikTok e do Snap também expressaram seu compromisso com a segurança online.
Pais, legisladores e grupos de defesa criticam há anos as plataformas online sobre se protegem a segurança de milhares de milhões de utilizadores. Embora existam regras sobre quais conteúdos os usuários não estão autorizados a postar, eles estão lutando com o conteúdo prejudicial do meio sobre automutilação, distúrbios alimentares, drogas e muito mais.
Ao mesmo tempo, a tecnologia desempenha um papel importante na vida das pessoas.
A ascensão dos chatbots alimentados por inteligência artificial levantou preocupações de saúde mental, à medida que alguns adolescentes recorrem à tecnologia em busca de companhia. As empresas também têm enfrentado um número crescente de ações judiciais por segurança online.
Esta semana, um julgamento altamente assistido sobre se empresas de tecnologia como Instagram e YouTube podem ser responsabilizadas por supostamente promover produtos nocivos e causar dependência aos usuários em suas plataformas começou em Los Angeles.
A TikTok e a Snap, controladora do aplicativo de mensagens desaparecido Snapchat, fizeram um acordo por uma quantia não revelada para evitar um processo judicial.
Nas declarações iniciais, um advogado que representa uma mulher da Califórnia que afirma ter sido viciada em YouTube e Instagram quando criança, disse que os produtos foram projetados para serem viciantes.
As empresas de tecnologia negaram as acusações do processo e afirmam que documentos internos foram distorcidos para retratá-los como substitutos quando há outros fatores, como traumas infantis, que levam a problemas de saúde mental em alguns de seus usuários.
Espera-se que o CEO da Meta, Mark Zuckerberg, testemunhe no julgamento de Los Angeles. Outro julgamento envolvendo uma ação judicial alegando que a Meta não protegeu as crianças da exploração sexual e violou as leis de proteção ao consumidor do Novo México também começou esta semana.
As novas classificações também foram anunciadas na terça-feira, no Dia da Internet Mais Segura, uma campanha global para promover o uso da tecnologia, especialmente entre os jovens. Empresas na terça-feira, como o Google, descreveram alguns dos trabalhos que fizeram sobre segurança, incluindo controles parentais que estabelecem limites de tempo para percorrer vídeos curtos.
As classificações serão codificadas por cores e as empresas com bom desempenho nos testes receberão um emblema de escudo azul que sinaliza que estão ajudando a reduzir conteúdo prejudicial na plataforma e que suas regras são claras. Aqueles que ficam aquém recebem uma classificação vermelha, indicando que não bloqueiam de forma confiável conteúdo prejudicial ou não possuem regras apropriadas. As classificações em outras cores indicam se as plataformas possuem proteção parcial ou se suas avaliações ainda não foram concluídas.
“Ao criar um quadro comum de responsabilização, a SOS ajuda-nos a avançar para espaços online que apoiam melhor a saúde mental e o bem-estar”, disse Kenneth Cole, designer de moda que fundou a Coligação de Saúde Mental, num comunicado.
Um site da SOS afirma que as empresas de tecnologia não influenciam o desenvolvimento de novos padrões e que não financiam o projeto. A Coalizão de Saúde Mental, entretanto, juntou-se à Meta em outras iniciativas no passado. Meta e Google também estão listados como “parceiros criativos” no site da aliança.
A coligação, com sede em Nova Iorque, não respondeu imediatamente a um e-mail a perguntar sobre o seu financiamento.
As empresas publicaram suas próprias regras e informações online sobre moderação de conteúdo. Os interessados em participar do projeto enviam voluntariamente documentos sobre políticas, ferramentas e características do produto.
