La chef de cabinet de la Maison Blanche, Susie Wiles, prévoit d’informer le PDG d’Anthropic, Dario Amodei, du nouveau modèle Mythos de la société d’intelligence artificielle, qui a été ciblé par le gouvernement en termes de changement en matière de sécurité nationale et d’économie.
Un responsable de la Maison Blanche, qui a demandé à rester anonyme pour discuter de la réunion prévue vendredi, a déclaré que l’agence travaillait avec des laboratoires d’IA avancés sur leurs modèles et la sécurité informatique. Le responsable a déclaré que toute nouvelle technologie susceptible d’être utilisée par le gouvernement fédéral devrait bénéficier d’une opportunité technique d’examen.
La réunion intervient après de vives tensions entre l’administration Trump et Anthropic, soucieux de sa sécurité, qui cherchait à ériger des barrières au développement de l’IA afin de réduire les risques possibles et d’augmenter ses avantages économiques et de sécurité nationale pour les États-Unis.
Le président Donald Trump a tenté d’interdire à toutes les agences fédérales d’utiliser le chat Anthropic de Claude dans le cadre du différend contractuel entre l’entreprise et le Pentagone, et Trump a déclaré dans un message publié en février sur les réseaux sociaux qu’il « ne ferait pas affaire avec elles ! »
Le secrétaire à la Défense, Pete Hegseth, a également cherché à qualifier Anthropic de risque pour la chaîne d’approvisionnement, une mesure sans précédent contre une entreprise américaine qu’Anthropic a contestée devant deux tribunaux. La société a déclaré vouloir s’assurer que le Pentagone n’utilise pas sa technologie pour cibler des armes spécifiques et espionner les Américains. Hegseth a déclaré que l’entreprise doit approuver toutes les utilisations que le Pentagone juge illégales.
La juge de district américaine Rita Lin a rendu une décision en mars bloquant la mise en œuvre de l’ordonnance de Trump sur les réseaux sociaux ordonnant à toutes les agences fédérales de cesser d’utiliser les produits Anthropic.
Anthropic n’a pas commenté la réunion à l’avance.
Anthropic, basé à San Francisco, a déclaré que le nouveau modèle Mythos annoncé le 7 avril est « extrêmement puissant » car il limite son utilisation à certains clients en raison de sa capacité à inciter des experts humains en cybersécurité à trouver et à exploiter les vulnérabilités logicielles.
Et tandis que certains experts du secteur se demandent si les affirmations d’Anthropic selon lesquelles une technologie d’IA super puissante sont un stratagème marketing, même certains initiés de l’entreprise ont qualifié Mythos de symbole de progrès dans le domaine de l’IA.
L’un des porte-parole les plus influents d’Anthropic, David Sacks, qui est le tsar de l’IA et de la cryptographie à la Maison Blanche, a déclaré que les gens devraient « prendre cela au sérieux ».
“Chaque fois qu’Anthropic fait peur aux gens, vous devez vous demander : ‘Est-ce normal ? Est-ce que cela fait partie de leur truc Little Chicken ? Est-ce réel ?'”, a déclaré Sacks sur le podcast “All-In” qu’il anime avec d’autres fournisseurs de technologie. “Sur Internet, je leur attribue le mérite de cette affaire et je dis que c’est plutôt du côté réel.”
Sacks a déclaré : « Évidemment, à mesure que les modèles de code deviennent plus sophistiqués, ils sont plus susceptibles de trouver des bogues. Cela signifie qu’ils sont plus susceptibles de trouver des vulnérabilités. Cela signifie qu’ils sont plus susceptibles d’exploiter plusieurs vulnérabilités et de créer des exploits.
Les avantages potentiels du modèle, ainsi que ses risques, ont attiré l’attention en dehors des États-Unis.
L’AI Security Institute du Royaume-Uni a déclaré avoir examiné le nouveau modèle et considéré qu’il s’agissait d’une “amélioration” par rapport aux modèles précédents, qui étaient déjà plus rapides.
“Mythos Preview peut utiliser des systèmes avec une sécurité faible, et il est possible que davantage de modèles dotés de ces capacités soient développés”, a indiqué l’université dans un rapport.
Anthropic a également eu des discussions avec l’Union européenne au sujet de ses modèles d’IA, y compris des modèles avancés qui n’ont pas encore été commercialisés en Europe, a déclaré vendredi le porte-parole de la Commission européenne, Thomas Regnier.
Axios a d’abord signalé la réunion prévue entre Wiles et Amodei.
Lorsque Mythos a été annoncé, Anthropic a déclaré qu’elle créait un projet appelé Project Glasswing, qui rassemble des géants de la technologie tels qu’Amazon, Apple, Google et Microsoft, et d’autres sociétés comme JPMorgan Chase, dans l’espoir de protéger les systèmes les plus importants du monde de la « mauvaise » récession que le nouveau modèle peut affecter la sécurité publique, la sécurité nationale et l’économie.
“Nous le donnons à certaines des entreprises et organisations les plus importantes au monde afin qu’elles puissent l’utiliser pour trouver des vulnérabilités”, a déclaré cette semaine le fondateur et directeur politique d’Anthropic, Jack Clark, lors de la conférence Semafor World Economy.
Clark a déclaré que Mythos, avant la courbe, n’était pas un « modèle spécial ».
“Il y aura d’autres systèmes comme celui-ci dans quelques mois par d’autres sociétés, et dans un an et demi plus tard, il y aura des modèles à poids ouvert en provenance de Chine qui auront ces capacités”, a-t-il déclaré. Le monde doit donc se préparer à des systèmes plus puissants dans lesquels vivre. » ___
O’Brien a rapporté de Providence, le journaliste économique du RI AP Kelvin Chan a contribué à ce rapport depuis Londres.
Boak et O’Brien écrivent pour Associated Press.
