Le PDG d’OpenAI, Sam Altman, s’est excusé auprès d’une communauté canadienne pour ne pas avoir informé la police des conversations d’un suspect de fusillade de masse avec son chatbot.
Les autorités ont déclaré que Jesse Van Rootselaar, 18 ans, avait tué huit personnes, dont des écoliers, à Tumbler Ridge, en Colombie-Britannique, avant de se suicider en février.
“Je regrette profondément que nous n’ayons pas informé les forces de l’ordre de la suspension du compte en juin”, a déclaré Altman dans la lettre de jeudi. “Même si je sais que les mots ne suffisent pas, je crois qu’il est nécessaire de présenter des excuses pour comprendre les dommages et la perte irréparable qui ont été causés à votre communauté.”
Vendredi, le premier ministre de la Colombie-Britannique, David Eby, a publié la lettre sur les réseaux sociaux.
La lettre est parue après que le Wall Street Journal, citant des personnes proches du dossier, ait déclaré cette année que Van Rootselaar avait parlé à ChatGPT de la violence armée, incitant les employés d’OpenAI à débattre de l’opportunité d’avertir les lois canadiennes.
OpenAI a supprimé le compte de l’utilisateur mais a décidé de ne pas avertir la police après avoir enquêté pour savoir si l’activité était jugée imminente ou dangereuse pour autrui.
Les entreprises technologiques font l’objet d’une surveillance accrue à la suite des fusillades de masse, pour savoir si les criminels utilisent leurs appareils pour planifier des attaques ou diffuser des assassinats. Mais l’essor des chats intelligents qui répondent rapidement aux questions et génèrent du contenu signifie que les gens abandonnent leurs pensées les plus sombres en ligne. Les entreprises d’IA débattent désormais de la manière d’équilibrer la sécurité publique et la vie privée tout en faisant face à de nouvelles poursuites et enquêtes.
En mars, la famille du tireur de Tumbler Ridge, hospitalisé, a poursuivi OpenAI, affirmant que la société savait que le tireur préparait une attaque de masse mais n’avait pas notifié la loi.
Dans un communiqué publié vendredi au X, Eby a qualifié les excuses de “méritées, mais insuffisantes pour le préjudice causé aux familles de Tumbler Ridge”.
Dans la lettre, Altman a déclaré qu’il avait parlé avec le maire de Tumbler Ridge, Darryl Krakowka, et Eby, au sujet de la fusillade, et qu’ils avaient accepté des excuses publiques. Altman a déclaré qu’il était important de trouver des moyens de prévenir ces accidents.
“À l’avenir, nous continuerons à nous concentrer sur la collaboration avec tous les niveaux de gouvernement pour empêcher qu’une telle situation ne se reproduise”, a déclaré Altman dans la lettre.
OpenAI a également du mal à savoir si elle en fait suffisamment pour protéger la sécurité publique aux États-Unis.
La semaine dernière, le procureur général de Floride a lancé une enquête criminelle sur ChatGPT et OpenAI pour déterminer si la société d’IA de San Francisco était impliquée dans un « complot criminel » concernant les actions du chatbot lors de la fusillade de l’université d’État de Floride l’année dernière qui a fait deux morts. Les procureurs ont examiné les communications entre le suspect, Phoenix Ikner, et ChatGPT.
