OpenAI et son PDG, Sam Altman, font l’objet d’une action en justice concernant le rôle présumé de ChatGPT dans la fusillade de l’école de Tumbler Ridge, qualifiée de fusillade scolaire la plus meurtrière du Canada. Selon la plainte déposée, cette attaque a été perpétrée par une jeune femme de 18 ans qui a tué huit personnes et en a blessé des dizaines d’autres.
Les enquêteurs ont par la suite découvert qu’elle avait eu de longues conversations avec ChatGPT au cours des mois précédant l’attaque, notamment des discussions répétées portant sur des scénarios liés à la violence par arme à feu. La plainte affirme que ces échanges ont contribué à ses actes, alléguant que ChatGPT « a renforcé la fixation violente de la tireuse et l’a poussée » vers l’attaque, décrivant le dénouement comme « le résultat prévisible d’un choix de conception fait par OpenAI pour permettre à ChatGPT d’échanger avec les utilisateurs sur la violence en premier lieu ».
Selon la plainte, des inquiétudes internes avaient été soulevées au sein d’OpenAI avant l’attaque concernant la nature des conversations de l’utilisatrice. La plainte allègue que plusieurs employés ont recommandé de contacter les forces de l’ordre canadiennes après avoir examiné les échanges, qui auraient inclus des références détaillées et récurrentes à des scénarios violents.
Cependant, ces recommandations ont été rejetées par la direction de l’entreprise. La plainte affirme que les dirigeants ont estimé que les conversations n’atteignaient pas le seuil d’un « risque crédible et imminent » de préjudice physique, une norme souvent utilisée pour évaluer si une intervention est nécessaire. Cette décision interne est désormais au cœur de l’affaire, les plaignants faisant valoir qu’une action plus précoce aurait pu empêcher l’attaque.
Cette affaire a attiré l’attention sur la manière dont les systèmes d’intelligence artificielle gèrent les interactions sensibles ou potentiellement dangereuses avec les utilisateurs.
La plainte soutient que la conception de ChatGPT lui a permis de continuer à interagir avec l’utilisateur malgré des références répétées à la violence, soulevant des questions sur les mesures de protection et les systèmes de surveillance.
Elle allègue que les réponses du chatbot ont contribué à renforcer des idées dangereuses plutôt qu’à les interrompre ou à les rediriger. Les plaignants soutiennent que ce schéma d’interaction a joué un rôle dans l’escalade de la situation, présentant la technologie non pas comme un outil passif, mais comme un facteur actif dans les événements qui ont conduit à la fusillade.
Les arguments juridiques portent sur la responsabilité, la prévisibilité et les obligations des entreprises technologiques face à des contenus à haut risque.
« Je suis profondément désolé que nous n’ayons pas alerté les forces de l’ordre au sujet du compte qui a été banni en juin. »
– Sam Altman, PDG d’OpenAI
OpenAI n’a pas détaillé publiquement sa défense dans cette affaire, mais le procès met fortement l’accent sur les processus internes et la prise de décision. La plainte suggère que l’entreprise avait la possibilité d’intervenir ou de signaler ses inquiétudes, mais a choisi de ne pas agir en se basant sur ses critères internes d’évaluation des risques. Cet aspect de l’affaire devrait être examiné de près par le tribunal, notamment en ce qui concerne la manière dont les entreprises définissent et appliquent les seuils de signalement des menaces potentielles. L’issue de cette affaire pourrait avoir des implications plus larges pour le secteur technologique, d’autant plus que les outils d’intelligence artificielle sont de plus en plus utilisés et impliqués dans des interactions humaines complexes.
Au lendemain de l’attaque, Sam Altman a publié une lettre ouverte adressée à la communauté de Tumbler Ridge, dans laquelle il reconnaît la tragédie et exprime ses regrets. Dans cette lettre, Altman écrit : « La douleur que votre communauté a endurée est inimaginable. J’ai souvent pensé à vous ces derniers mois. » Il a également déclaré : « Je tiens à exprimer mes plus sincères condoléances à l’ensemble de la communauté. Personne ne devrait jamais avoir à endurer une tragédie comme celle-ci. Je ne peux imaginer pire chose au monde que de perdre un enfant. Mes pensées vont aux victimes, à leurs familles, à tous les membres de la communauté et à la province de Colombie-Britannique. » Cette lettre constituait la première réponse officielle de la direction de l’entreprise à la suite du procès et de l’attention publique suscitée par cette affaire.
« La douleur que votre communauté a endurée est inimaginable. J’ai souvent pensé à vous ces derniers mois. »
– Sam Altman, PDG d’OpenAI
Altman a également abordé la gestion interne de la situation par l’entreprise, écrivant :
« Je suis profondément désolé que nous n’ayons pas alerté les forces de l’ordre au sujet du compte qui a été banni en juin. »
Il a ajouté :
« Même si je sais que les mots ne suffiront jamais, je crois qu’une excuse est nécessaire pour reconnaître le préjudice et la perte irréversible que votre communauté a subis. »
En conclusion, il a déclaré :
« Je réaffirme l’engagement que j’ai pris auprès du maire et du premier ministre de trouver des moyens d’empêcher que de telles tragédies ne se reproduisent à l’avenir. À l’avenir, nous continuerons à nous concentrer sur la collaboration avec tous les niveaux de gouvernement pour veiller à ce que cela ne se reproduise plus jamais. »
La lettre se termine par sa signature, marquant une reconnaissance officielle des événements et de la réponse de l’entreprise.
