Le monde de l’intelligence artificielle a été secoué ce samedi par la démission de Caitlin Kalinowski, responsable des produits physiques chez OpenAI. Cette décision fait suite à un accord controversé entre OpenAI et le gouvernement américain, permettant l’utilisation de sa technologie à des fins militaires et pour la surveillance intérieure.
EN BREF
- Caitlin Kalinowski a démissionné d’OpenAI en raison d’un accord avec le Pentagone.
- Elle exprime des préoccupations sur la surveillance sans contrôle judiciaire.
- OpenAI a modifié son contrat pour limiter l’utilisation militaire de son IA.
Dans un message publié sur X, anciennement Twitter, Kalinowski a expliqué que bien que l’intelligence artificielle joue un rôle essentiel dans la sécurité nationale, des questions éthiques fondamentales se posent concernant la surveillance des citoyens sans contrôle judiciaire et l’autonomie létale sans approbation humaine. Selon elle, ces enjeux méritent une réflexion approfondie avant toute mise en œuvre.
OpenAI, connu pour son produit phare ChatGPT, a signé un contrat avec le Pentagone en février dernier. Ce contrat a suivi un épisode où son concurrent Anthropic avait refusé un ultimatum du gouvernement américain, qui demandait un accès illimité à son assistant IA, Claude. Cet incident avait suscité des réactions vives, notamment de la part de l’ancien président Donald Trump.
En réponse aux préoccupations soulevées, le PDG d’OpenAI, Sam Altman, a annoncé sur X que des modifications avaient été apportées à l’accord. Parmi celles-ci, une clause stipulant que les systèmes d’IA d’OpenAI ne doivent pas être utilisés intentionnellement pour surveiller les citoyens américains. Altman a souligné que cette question était avant tout une question de principes, et non de personnes.
Caitlin Kalinowski a également précisé que son opposition à l’accord ne visait pas personnellement Sam Altman ou son équipe, mais relevait plutôt d’une préoccupation pour la gouvernance de l’intelligence artificielle. Dans un message subséquent, elle a affirmé :
« Pour être claire, mon problème est que l’annonce a été faite précipitamment, sans que les garde-fous n’aient été définis. »
Elle a insisté sur le fait que des questions aussi cruciales ne devraient pas être abordées de manière précipitée.
Avant de rejoindre OpenAI, Kalinowski a travaillé chez Meta, où elle était impliquée dans le développement de lunettes à réalité augmentée. Son départ soulève des interrogations sur la direction que prend OpenAI, qui continue d’élaborer plusieurs produits destinés à faciliter l’intégration de l’IA générative dans la vie quotidienne.
Alors que l’IA devient de plus en plus omniprésente dans nos vies, les enjeux éthiques et de gouvernance autour de son utilisation, notamment dans un contexte militaire, nécessitent un débat ouvert et approfondi. La démission de Kalinowski pourrait être le signe d’un besoin croissant d’encadrer ces technologies pour éviter des dérives potentielles.
