Ryan Patrick Jones e Bhargav Acharya
TORONTO, – A OpenAI disse quinta-feira que criará um ponto de contato direto com as autoridades canadenses e melhorará a detecção de infratores reincidentes de sua política de “atividades violentas” para reforçar os protocolos de segurança após o recente tiroteio na escola.
O desenvolvedor do ChatGPT detalhou as etapas em uma carta ao ministro canadense responsável pela inteligência artificial, Evan Solomon.
Ann O’Leary, vice-presidente de política global da OpenAI, escreveu a carta depois que os ministros canadenses pediram esta semana ao criador do ChatGPT que melhorasse rapidamente seus protocolos de segurança e alertaram que Ottawa introduziria mudanças por meio de legislação se a empresa não o fizesse.
“Continuamos empenhados em cooperar com as autoridades policiais na investigação da tragédia em Tumbler Ridge e procuramos uma parceria contínua com os governos federal e provincial”, disse O’Leary, referindo-se à cidade da Colúmbia Britânica onde ocorreu o tiroteio.
Ottawa convocou esta semana a equipe de segurança da OpenAI para negociações depois que a empresa disse que não contatou a polícia sobre a conta do suposto atirador, Jesse Van Rutselaar, que bloqueou.
Van Rutselaar, 18, é suspeita de matar oito pessoas em 10 de fevereiro antes de tirar a própria vida em Tumbler Ridge. A OpenAI disse que baniu sua conta ChatGPT no ano passado por violações de políticas.
A empresa disse que a conta foi sinalizada por sistemas que identificam “uso indevido de nossos modelos para promover atos violentos”, mas não forneceu mais detalhes. A OpenAI disse que os problemas não atendiam aos critérios internos de denúncia às autoridades.
Na quinta-feira, O’Leary disse que, de acordo com o “protocolo aprimorado de encaminhamento para aplicação da lei” da empresa, a empresa teria relatado o banimento inicial da conta em junho à polícia se ela tivesse sido descoberta agora.
Ela também disse que a empresa descobriu que Van Rootselaar estava usando uma segunda conta que ele forneceu às autoridades.
“Estamos empenhados em fortalecer os nossos sistemas de detecção para melhor prevenir tentativas de contornar as nossas salvaguardas e priorizar a identificação dos infratores de maior risco”, disse O’Leary.
A empresa também se comprometeu a avaliar periodicamente os limites que seus sistemas automatizados usam para detectar ações potencialmente violentas dos usuários.
Especialistas em crimes disseram que, apesar da necessidade de um maior escrutínio da inteligência artificial e das plataformas de redes sociais, a polícia ou outras autoridades podem ter perdido oportunidades adicionais de evitar um dos piores assassinatos em massa do Canadá.
A polícia disse que Van Rutselaar tinha um histórico de problemas de saúde mental e que apreendeu e depois devolveu a arma de sua casa.
O gabinete do secretário Solomon não respondeu imediatamente a um pedido de comentário.
Este artigo foi gerado a partir de um feed automático de agências de notícias sem alterações no texto.
