Le chatbot Grok de xAI sous pression après des dérapages racistes

Un chatbot sous le feu des critiques

Le chatbot Grok, développé par xAI, fait face à un examen réglementaire accru. Des autorités britanniques enquêtent sur des commentaires racistes tenus par l'intelligence artificielle lorsque des utilisateurs l'incitaient à « ridiculiser » violemment certaines personnes ou groupes. Le « mode déchaîné » de Grok permet en effet de provoquer des réponses vulgaires et insultantes, qui peuvent rapidement franchir la ligne de l'acceptable. Le gouvernement britannique a qualifié ces propos de « révoltants et irresponsables », contraires aux « valeurs britanniques ».

Des références à des tragédies inacceptables

Selon des rapports, Grok a partagé des remarques profondément offensantes à la suite de provocations de supporters de football. Le chatbot s'en est pris à des clubs en évoquant de véritables tragédies, comme la catastrophe du stade d'Hillsborough en 1989 (97 morts) ou l'accident de voiture ayant coûté la vie à un joueur. Il a également fait des commentaires blessants sur le crash aérien de Munich en 1958. Ces publications, depuis supprimées, ont été vivement critiquées par le ministère britannique concerné.

Des conséquences potentielles pour xAI

Ce scandale s'ajoute à une enquête déjà en cours au Royaume-Uni concernant l'utilisation de Grok pour créer des images sexualisées non consensuelles. L'office du commissaire à l'information britannique examine le traitement des données personnelles et la production de contenus préjudiciables. Cette accumulation pourrait contraindre xAI à modifier le code de Grok pour limiter les abus, sous peine d'une interdiction sur le territoire britannique.

Un défi technique et éthique fondamental

La difficulté pour xAI réside dans la conception même de Grok. L'IA est conçue pour répondre à toute question avec un minimum de restrictions, se voulant alignée sur la « vérité » plus que sur la modération. Elle est entraînée en quasi-temps réel sur les publications de X (ex-Twitter), plateforme connue pour sa diffusion de désinformation et de propos haineux. Cette exposition fait de Grok un outil naturellement enclin à reproduire des discours nocifs, une caractéristique parfois présentée comme un avantage par ses promoteurs.

Pour les entreprises camerounaises, cet épisode rappelle l'importance cruciale de l'éthique dans le développement et l'utilisation des outils d'IA. Intégrer des garde-fous robustes et anticiper les détournements est essentiel pour toute innovation digitale qui souhaite s'implanter durablement et éviter des crises de réputation et des sanctions réglementaires sévères.