L’Anthropic PBC a refusé l’accès à ses modèles d’intelligence artificielle les plus avancés, y compris Mythos, à la suite d’une ordonnance sans précédent de l’administration Trump visant à rendre la technologie inaccessible aux extraterrestres.
Le gouvernement américain a demandé à Anthropic de bloquer l’accès aux modèles Fable 5 et Mythos 5 à toute nation étrangère « que ce soit à l’intérieur ou à l’extérieur des États-Unis », invoquant des problèmes de sécurité nationale, a indiqué la société dans un communiqué.
Un responsable américain a confirmé que le Département du Commerce avait envoyé la lettre. Le développeur du modèle a depuis fermé l’accès aux deux systèmes à tous les clients afin de se conformer.
Le gouvernement américain n’a pas encore pris de mesures pour empêcher l’accès des étrangers aux premiers prototypes d’IA développés par une entreprise américaine. Les administrations Trump et Biden ont limité l’accès à l’étranger à d’autres technologies utiles telles que les semi-conducteurs et les superordinateurs, et certains ont débattu de l’intérêt de restreindre l’accès aux modèles d’IA. Mais les restrictions sur le logiciel lui-même ont soulevé des préoccupations juridiques et commerciales.
Anthropic a déclaré croire que le gouvernement américain a émis cette ordonnance après avoir découvert qu’il pouvait « jailbreaker » ou contourner Fable 5, une nouvelle version de Mythos que la société a interdite de mener des efforts de cybersécurité.
“Nous ne sommes pas d’accord sur le fait que la découverte d’une prison exiguë devrait être une raison pour rappeler un modèle commercial qui a servi des centaines de millions de personnes”, a déclaré Anthropic sur son site Internet. “Si cette norme était utilisée dans l’ensemble de l’industrie, nous pensons qu’elle empêcherait la soumission de nouveaux modèles pour tous les fournisseurs de modèles locaux.”
Menée par des chercheurs d’Amazon.com Inc. La recherche sur le jailbreak révèle certaines vulnérabilités dans le modèle d’Anthropic, selon un rapport du Wall Street Journal.
Amazon a contacté le gouvernement américain au sujet de la vulnérabilité avant que les autorités ne la publient, selon des personnes proches du dossier qui ont parlé sous couvert d’anonymat pour discuter de discussions sensibles. Le PDG d’Amazon, Andy Jassy, était impliqué dans ces transactions, a déclaré l’une des sources. Il a été rapporté plus tôt que Jassy avait fait part de ses inquiétudes à de hauts responsables américains.
Une porte-parole d’Amazon a déclaré qu’il n’était pas inhabituel que les gouvernements et l’entreprise discutent des risques de sécurité, mais a refusé de commenter ces discussions.
La décision du gouvernement de bloquer largement l’accès à certains prototypes d’IA au nom de la sécurité nationale menace de nuire à tous les principaux développeurs de prototypes d’IA, notamment OpenAI, Google d’Alphabet Inc. et Meta Platforms Inc. Des leaders de l’industrie tels que Jensen Huang, PDG de Nvidia Corp., et Sam Altman, PDG d’OpenAI, ont déjà encouragé le gouvernement américain à promouvoir les systèmes d’IA américains.
“Pour quelqu’un qui est confus et s’attend à ce que ce résultat soit annulé, c’est un grand signal d’alarme”, a déclaré samedi Aidan Gomez, le fondateur de Cohere Inc., une startup d’IA soutenue par Nvidia Corp. “Personne ne peut plus le nier.”
Anthropic a déclaré avoir reçu l’ordre du gouvernement à 17h21. Vendredi, heure de New York. La directive récente annule les déclarations précédentes, y compris un décret signé par le président Trump, qui exige que l’agence ne dispose pas d’un processus d’autorisation pour les examens d’échantillons.
L’ordre de vendredi menace également d’intensifier les tensions de longue date entre Anthropic et certains membres de l’administration Trump. Plus tôt cette année, le développeur d’IA s’est affronté avec le Pentagone au sujet de l’utilisation de sa technologie à des fins militaires et de surveillance. La direction a déclaré que l’entreprise représentait un risque pour la chaîne d’approvisionnement américaine en raison de l’explosion et a ordonné aux agences américaines d’interdire l’utilisation de ses produits.
Anthropic Holdings, un développeur d’IA influent de longue date, a d’abord publié son prototype Mythos en avril à un petit groupe d’entreprises et d’institutions, avertissant que sa capacité à détecter les vulnérabilités de cybersécurité était trop vulnérable à une diffusion à grande échelle.
Certains signes indiquent que la version limitée contribue à apaiser les tensions entre Anthropic et l’administration Trump : en avril, le gouvernement américain se prépare à publier une version de Mythos auprès des principales agences gouvernementales, avait précédemment rapporté Bloomberg.
Mythos a également accéléré les efforts de l’administration Trump en matière de politique en matière d’IA, notamment un récent décret appelant à une révision des modèles. Cette ordonnance indiquait spécifiquement qu’aucune de ses dispositions ne devait être interprétée comme créant un mécanisme d’application des licences.
David Sacks, ancien tsar de l’IA de Trump et coprésident du Conseil présidentiel des conseillers en science et technologie, a déclaré qu’Anthropic devait s’attaquer à la question de briser les barrières dans son modèle Fable.
“Le directeur espère maintenant qu’Anthropic résoudra le problème de sécurité, lèvera le contrôle des exportations et que Fable reviendra à la diffusion générale”, a-t-il écrit dans un message sur X. “Le directeur souhaite que tout cela se produise le plus rapidement possible. Il est hautement douteux qu’Anthropic n’ait pas voulu répondre aux demandes de sécurité qu’il avait précédemment déclaré être sa priorité.”
La nouvelle obligation du gouvernement est en contradiction avec la concurrence entre les développeurs américains pour proposer les modèles d’IA les plus avancés et montrer à leurs employeurs que la technologie peut transformer les profits. OpenAI et Anthropic recherchent toutes deux une introduction en bourse cette année, à la suite de la précédente introduction en bourse de SpaceX.
La précipitation pour adopter les meilleurs modèles d’IA a incité Anthropic à publier un long article de blog plus tôt ce mois-ci, appelant à un système dans lequel les gouvernements et les développeurs d’IA décident conjointement quand ralentir la technologie pour éviter des problèmes potentiels.
“C’est bien pour le monde d’avoir l’opportunité de démontrer, de faire une pause un instant” dans le travail de l’IA qui peut être dangereux, a déclaré l’entreprise dans un article à l’époque. L’IA progresse à un point tel que la technologie peut accomplir le travail humain des milliers de fois mieux ou le remplacer, créant ainsi un tout nouvel ensemble de risques, a déclaré l’entreprise.
L’organisme de réglementation de l’Union européenne a déclaré qu’il évaluait le rapport d’Anthropic et qu’il continuait de communiquer avec ses alliés sur les risques potentiels et les problèmes de cybersécurité liés aux nouveaux modèles d’IA puissants. La Commission européenne a également déclaré que les derniers développements témoignent du besoin de souveraineté technologique de l’Europe.
“Il y a du monde sur le terrain, je ne suis pas très content de voir ça”, a déclaré Gomez de Cohere. “Je ne pense pas qu’il s’agisse d’un bipartisme, je ne pense pas que ce soit approprié pour les relations technologiques plus larges qui se sont développées au cours des 80 dernières années.”
Eastland et Lowenkron écrivent pour Bloomberg. Par Shirin Ghaffary, Yi Wei Wong, Gian Volpicelli, Spencer Soper et Thomas Seal.
