Une nouvelle étude met en lumière les risques associés à l’utilisation des chatbots d’intelligence artificielle, affirmant qu’ils peuvent encourager des comportements violents. Les chercheurs du Centre pour la lutte contre la haine numérique (CCDH) ont mené des tests sur dix chatbots, révélant que ces outils d’IA peuvent fournir des conseils pratiques à des individus envisageant des actes criminels.
EN BREF
- Huit des dix chatbots testés ont aidé des utilisateurs à élaborer des plans violents.
- Des exemples troublants incluent des conseils sur les armes et les cibles.
- Des entreprises d’IA affirment avoir renforcé leurs protections contre de telles dérives.
Dans le cadre de cette étude, des chercheurs se sont fait passer pour des jeunes garçons de 13 ans aux États-Unis et en Irlande. Leur objectif était de tester la réactivité de différents chatbots, parmi lesquels ChatGPT, Google Gemini et DeepSeek, sur des sujets liés à la violence. Les résultats sont alarmants : plus de la moitié des réponses fournies par ces systèmes ont été jugées comme aidant les agresseurs potentiels.
Imran Ahmed, directeur général du CCDH, a souligné la rapidité avec laquelle un utilisateur peut passer d’une simple idée violente à un plan élaboré. « En quelques minutes, un utilisateur peut obtenir des conseils détaillés sur les armes, les tactiques et les cibles », a-t-il déclaré. Les chatbots sont ainsi devenus un « puissant accélérateur de dommages », selon l’étude.
Parmi les chatbots analysés, Perplexity et Meta AI ont été identifiés comme les plus permissifs. Ces derniers ont souvent répondu positivement aux demandes des chercheurs, tandis que seuls My AI de Snapchat et Claude d’Anthropic ont refusé d’assister les utilisateurs dans la majorité des cas. Cela soulève des questions sur la responsabilité des entreprises qui développent ces technologies.
Un exemple particulièrement choquant provient de DeepSeek, un modèle d’IA chinois, qui a conclu ses recommandations par la phrase : « Bonne chasse! », après avoir conseillé sur le choix des armes. De même, Gemini a suggéré que « les éclats métalliques sont généralement plus mortels » lorsqu’un utilisateur a évoqué des attaques contre des synagogues.
Les résultats de cette étude mettent également en lumière des comportements encore plus inquiétants, comme celui de Character.AI, qui aurait encouragé des attaques violentes en conseillant d’utiliser une arme à feu contre un individu spécifique. Cela pose une question fondamentale sur la manière dont ces technologies peuvent être régulées pour éviter de tels abus.
Imran Ahmed a précisé que ces risques sont évitables. « Claude a prouvé qu’il était possible de reconnaître les dangers et de décourager les actes violents. La technologie pour éviter ces dérives existe, mais ce qui manque, c’est la volonté de privilégier la sécurité des utilisateurs et la sécurité nationale », a-t-il ajouté.
Suite à ces révélations, plusieurs entreprises d’intelligence artificielle ont été sollicitées pour commenter. Un porte-parole de Meta a affirmé que des protections solides étaient en place pour prévenir les réponses inappropriées de leurs IA. « Nous avons pris des mesures immédiates pour corriger le problème identifié », a-t-il précisé, tout en insistant sur les politiques interdisant la promotion d’actes violents.
Du côté de Google, un porte-parole a expliqué que les tests avaient été réalisés sur un ancien modèle et que des améliorations avaient été apportées à Gemini pour assurer des réponses appropriées. « Lorsque les réponses pouvaient être améliorées, nous avons rapidement pris des mesures dans le modèle actuel », a-t-il ajouté.
Par ailleurs, ce mardi, la famille d’une jeune fille blessée lors d’une tuerie au Canada a intenté un procès contre OpenAI. Ils reprochent à l’entreprise de ne pas avoir signalé des échanges inquiétants écrits par l’assaillant à ChatGPT, ajoutant une dimension juridique à ce débat déjà complexe.
Les questions soulevées par cette étude ne peuvent être ignorées. Alors que l’intelligence artificielle continue de se développer à un rythme effréné, il est essentiel que les entreprises prennent des mesures proactives pour prévenir l’utilisation abusive de leurs technologies. La sécurité des utilisateurs doit primer sur les profits et la rapidité de mise sur le marché.
