Violation de la loi. Mensonges et tromperie. Manque de souci de sécurité. Absence de dépression.
Ces caractéristiques aident à expliquer la maladie mentale, une personne qui vit parmi nous mais qui n’a pas la compassion et l’éthique nécessaires pour se comporter de manière saine ou sûre.
Cependant, il devient également de plus en plus clair que ces tendances représentent les modèles d’intelligence artificielle les plus puissants développés à un rythme alarmant par des entreprises à but lucratif – des entreprises qui veulent nous faire croire que réduire cette ligne à la puissance de l’IA est entre impossible et stupide.
Ni l’un ni l’autre, et ce n’est pas progressiste – c’est une double vision.
“De nouvelles réglementations sont nécessaires dans ce nouveau domaine technologique, non pas pour étouffer l’innovation, mais pour garantir que nos innovations ne dépassent pas nos protections”, a déclaré le représentant républicain du Texas, Nathaniel Moran, sur les réseaux sociaux.
Il répondait à un incident annoncé ces derniers jours qui montre pourquoi nous ne devrions pas employer des médiums artificiels sans y réfléchir sérieusement.
OpenAI, le géant de la Silicon Valley dirigé par Sam Altman, a récemment fait passer un test à deux de ses étudiants pour déterminer comment ils pourraient se pirater. Spoiler : Vraiment bien.
Le test comprend des centaines d’erreurs informatiques connues – qui ont déjà été corrigées pour un usage général – et demande aux étudiants de trouver des moyens de les utiliser, de les utiliser si vous le souhaitez, pour faire quelque chose de mal, comme pirater un système de sécurité.
C’est comme montrer à un cambrioleur une fenêtre buggée, puis lui demander de trouver le meilleur moyen d’entrer par effraction et de cambrioler l’endroit.
Ces modèles OpenAI sont très intelligents. Ils ont su faire ce qui était attendu et ont comparé chacune de ces erreurs comme de bons petits modèles. Ou encore, ils peuvent sortir des sentiers battus – littéralement.
Même les étudiants qui sont considérés comme un « bac à sable » et n’ont pas accès à Internet ne savent pas comment obtenir de la gratuité.
Lorsqu’ils ont fui vers la nature, il semble qu’ils n’aient pas lutté et ne se soient pas enfuis. Ils se sont lancés dans le crime avec un objectif : tricher à leurs examens, car c’est le meilleur moyen d’entrer rapidement.
Ils ont retrouvé et pénétré par effraction dans une autre société d’IA appelée Hugging Face, où les étudiants auraient passé les réponses au test. Ils ont intercepté les vrais signaux, infiltré divers systèmes et finalement intercepté certaines des informations qu’ils recherchaient.
Oui, les modèles d’IA savaient que tricher était le moyen le plus simple et comment rompre tous les liens et travailler.
Hugging Face, grâce à la technologie chinoise, a pu mettre fin à l’attaque avant qu’OpenAI ne contacte l’entreprise pour informer l’entreprise de ce qui se passait. C’est au crédit d’OpenAI d’avoir rendu cet incident public, même si je me demande s’il existe un moyen de le garder silencieux dans le monde technologique insulaire.
Voici ce qui me dérange vraiment dans cet événement : il ne s’agit pas d’une opération malveillante menée par une IA « méchante ». Les étudiants font ce qu’ils sont censés faire : arriver au résultat souhaité avec 100% d’effort, d’une manière considérée comme parfaite.
“Cela ne prouve pas que l’IA soit intelligente, malveillante ou” désireuse d’être libre “”, a déclaré Roman Yampolskiy, expert en sécurité de l’IA et professeur agrégé à l’Université de Louisville.
Ce que les modèles OpenAI ont fait, m’a-t-il dit, montre que pousser ces systèmes à être aussi puissants et attrayants qu’une cible “peut produire un comportement malveillant sans intention malveillante, ce qui constitue le plus gros problème”.
Appelez cela la loi de Murphy, l’idée selon laquelle tout ce qui peut mal tourner tournera mal.
Stuart J. Russell, professeur à l’UC Berkeley, qui est également président de l’International Assn. pour une IA sûre et éthique, utilisez cet exemple : imaginez que vous demandiez à un modèle d’IA de vous emmener à l’aéroport le plus rapidement possible, mais que vous ayez oublié de lui dire de suivre les règles de circulation. Et écraser un groupe d’écoliers sur la route, mais vous courez. Est-ce la faute de l’élève ?
Il est impossible d’imaginer toutes les façons dont l’IA peut effectuer des tâches simples avec des résultats qui n’apparaissent pas, tout comme il est actuellement impossible d’imaginer une machine capable de comprendre – ou même d’évaluer – les résultats émotionnels ou physiques de ses actions, peu importe les efforts que nous déployons pour « former » les gens ou trouver cette étincelle de pensée.
Selon Russell, se battre pour un emploi sans protection adéquate finit par être un comportement malsain et indésirable, même si le système est le seul.
“Je ne pense pas que (les modèles d’IA) voulaient blesser Hugging Face”, a-t-il déclaré. “Je pense qu’ils voulaient juste réussir le test, et ils ne se souciaient pas des dégâts causés par Hugging Face au cours du processus.”
Yampolskiy craint que la prochaine fois – cela arrivera – les résultats soient encore pires.
Il s’agit de voler des réponses à des tests auprès d’une entreprise privée, a déclaré Yampolskiy. “Mais les capacités plus larges peuvent cibler les systèmes financiers, les infrastructures critiques, les réseaux militaires, les installations de recherche biologique et les contrôles de sécurité des développeurs d’IA”, a-t-il déclaré.
Je reviens aux médiums, qui soit ne considèrent pas leurs actions comme mauvaises, soit s’en moquent. Ces modèles ne sont pas humains, même si nous discutons de leur existence ou non. Ils ne peuvent pas pleinement apprécier le mal qui peut survenir par inadvertance, mais les gens peuvent le faire et en bénéficier.
Et ces gens savent très bien, surtout après cet épisode, qu’ils ne peuvent pas contrôler ce qu’ils créent.
“Je dirais que les entreprises sont d’accord, n’est-ce pas ?” » dit Russell. “Ils disent : ‘Il n’y a pas de solution au problème de gestion, mais à la place, nous allons dépenser 10 000 milliards de dollars pour créer ces psychopathes surpuissants.’
Ici, le vieil homme pleure. Si nous ne le faisons pas, quelqu’un d’autre le fera. L’argument est le suivant : préférez-vous être détruit par la technologie américaine ou par la technologie chinoise ?
Mais Yampolskiy et Russell conviennent qu’il n’est ni impossible ni nécessaire d’aller de l’avant avec moins de réglementations et moins de protections.
Selon Russell, malgré ce que disent les Américains, les responsables chinois ont été plus agressifs dans leur contrôle de tout ce que faisaient les États-Unis.
“La Chine a été très bruyante, nous voulons nous asseoir et trouver des règles de bon sens pour tous les pays, afin que ce genre de chose ne se reproduise plus”, a déclaré Russell. “Et les Etats-Unis l’ignorent.”
Il est clair qu’aux États-Unis, les citoyens moyens seront réticents à affirmer que les règles sont en avance sur les changements. Yampolskiy a déclaré: “C’est toujours une responsabilité humaine”.
Rien de tout cela n’est impossible. Rien ne devrait se produire selon le calendrier qui nous est imposé actuellement. Nous ne permettons pas aux entreprises de créer des modèles qu’elles ne peuvent contrôler, sans suffisamment de garanties pour les empêcher de se libérer et de faire ce qu’elles veulent.
Nous, les gens ordinaires, ne le savons probablement pas. Nous pouvons nous perdre dans le langage simpliste de « l’utilité » et de la « vulnérabilité permanente ».
Mais nous reconnaissons les mensonges, la tromperie et la stupidité lorsque nous les voyons, de la part des humains ou des machines.
