- O Pentágono e a Antrópico estão em desacordo sobre o uso de Claude
- O modelo de IA foi supostamente usado para capturar Nicolás Maduro
- A Anthropic recusou-se a usar seus modelos em “armas totalmente autônomas e vigilância em massa em casa”.
Surgiu uma divergência entre o Pentágono e várias empresas de IA sobre como os seus modelos podem ser usados como parte das operações.
O Pentágono pediu aos fornecedores de IA Anthropic, OpenAI, Google e xAI que permitissem que seus modelos fossem usados para “todos os fins legais”.
A Anthropic expressou temor de que seus modelos Claude sejam usados em sistemas de armas autônomos e vigilância em massa em casa, ameaçando encerrar o contrato de US$ 200 milhões do Pentágono com o fornecedor de IA.
Uma lacuna de US$ 200 milhões em relação às armas de IA
Em declarações à Axios, um conselheiro anónimo da administração Trump disse que uma das empresas concordou em permitir que o Pentágono utilizasse plenamente o seu modelo, com as outras duas mostrando flexibilidade na forma como os seus modelos de IA podem ser usados.
A relação do Pentágono com a Anthropic tem sido tensa desde Janeiro devido à utilização dos seus modelos Claude, que o Wall Street Journal informou terem sido utilizados numa operação militar dos EUA para capturar o Presidente venezuelano Nicolás Maduro.
Um porta-voz da Antrópico disse à Axios que a empresa “não discutiu o uso de Claude para operações específicas com o Departamento de Guerra”. A empresa disse que estava revisando sua política de uso com o Pentágono, citando “nossos limites rígidos para vigilância totalmente autônoma e em massa em casa”.
O porta-voz do Pentágono, Sean Parnell, disse: “Nossa nação exige que nossos parceiros estejam prontos para ajudar nossos combatentes a vencer qualquer batalha”.
Especialistas em segurança, decisores políticos e o CEO da Antropiko, Dario Amodei, apelaram a uma maior regulamentação do desenvolvimento da IA e ao aumento dos requisitos de protecção, referindo-se especificamente à utilização da IA em sistemas de armas e tecnologia militar.
Os melhores controles parentais para cada orçamento
