Dans un monde tourmenté par les conflits et une agitation croissante des tensions commerciales, le repli sur soi devient une tentation omniprésente. Face à l’essor des mouvements radicaux et à la désinformation généralisée, les démocraties libérales subissent un profond affaiblissement. Ce contexte incite à écouter les visionnaires, qu’ils soient scientifiques, militaires, experts de la technologie, intellectuels ou entrepreneurs. L’Express a consacré un numéro exceptionnel à cette thématique : les “Visionnaires”.
EN BREF
- La technologie crée des ruptures rapides et des opportunités mais pose aussi des défis éthiques.
- Des outils comme l’IA et l’édition génomique exigent une vigilance accrue face aux risques de manipulation.
- La prospective et l’anticipation sont essentielles pour préparer la société aux évolutions technologiques.
Depuis plusieurs décennies, la puissance informatique connaît une croissance ininterrompue, marquant une nouvelle ère pour l’humanité. Ce phénomène entraîne des bouleversements majeurs, tels que la désinformation massive, l’émergence d’êtres augmentés, et des manipulations biologiques extrêmes. Pour en discuter, Jean-Marc Rickli, directeur des *risques globaux et émergents* au Centre de Politique de Sécurité de Genève (GCSP), nous éclaire.
L’Express : Est-il exagéré d’affirmer que nous vivons une période de ruptures technologiques sans précédent dans l’histoire humaine ?
Jean-Marc Rickli : Il est indéniable que nous assistons à une accélération des transformations sociétales. La génération ancienne, née dans un monde analogique, a été le témoin de l’avènement de l’informatique, puis d’Internet et des smartphones. Aujourd’hui, c’est la période de l’intelligence artificielle et des objets connectés. Nos grands-parents n’ont connu que l’essor de la mécanisation. Cette rapidité des évolutions génère des développements exponentiels.
Un nouvel espace numérique, support de tous les autres, s’intègre progressivement à l’espace physique des objets connectés, annonçant ainsi ce que l’on nomme la quatrième révolution industrielle. Mais cette transformation ne s’arrête pas là ; nous approchons d’un avenir où l’interaction entre les espaces biologiques, cognitifs et numériques devient de plus en plus fréquente, soulevant des questions éthiques fondamentales.
Par exemple, Apple a récemment noué un partenariat avec Synchron, une entreprise qui développe des interfaces cerveau-machine. Celles-ci pourraient permettre à des personnes souffrant de handicaps moteurs de contrôler des appareils Apple par la seule pensée. Cela pourrait aussi entraîner une démocratisation de ces technologies, permettant à tout utilisateur d’améliorer ses capacités. Toutefois, ceci pose une question cruciale : Si nos actions fusionnent avec celles de la machine, quel sens donner à notre humanité et libre arbitre ? Autrefois reléguées à la science-fiction, de telles préoccupations prennent aujourd’hui une résonance palpable.
Cette transformation rapide est rendue possible grâce à des algorithmes et à des capacités de calcul qui ne cessent d’évoluer. Alors que l’intelligence artificielle devient de plus en plus autonome, elle nécessite aussi des ressources énormes, ce qui pousse à une concentration d’expertise et de pouvoir entre les mains de quelques géants tech, principalement américains et chinois.
Jean-Marc Rickli : Plus un algorithme apprend sous supervision humaine, plus il devient autonome. Cette dynamique peut conduire à des avancées spectacle, comme un robot chirurgical effectuant une opération presque seul.
Certains pourraient s’interroger sur les dérives potentielles, évoquant des scénarios totalitaires à la Orwell, où la technologie serait utilisée pour surveiller les masses. Avec l’Internet des objets, nos données personnelles — température corporelle, état émotionnel, localisation — sont collectées en temps réel. Des entreprises exploitent ces informations pour en déduire des comportements et des personnalités de manière de plus en plus précise.
En Chine, par exemple, le système de crédit social utilisé par l’État repose sur l’analyse des comportements individuels en ligne, influençant ainsi l’accès à divers services. Cette utilisation de la technologie révèle une capacité à manipuler l’opinion et à influencer le comportement des individus.
Jean-Marc Rickli souligne que l’IA n’est pas seulement un outil de surveillance, mais également un moyen de manipulation, contribuant à la désinformation massive. La désinformation, facilité par les nouvelles technologies, peut s’avérer dévastatrice, engendrant des campagnes de déstabilisation à grande échelle. Un citoyen américain, par exemple, a été capable de créer plus de 160 sites de désinformation pendant les élections américaines de 2024. Cela constitue une formule de guerre par suppléments technologiques, intégrant une nouvelle ère de guerre cognitive.
Les risques liés à l’émergence d’outils comme CRISPR, qui permettent l’édition de gènes, soulignent encore davantage les enjeux éthiques. Le scénario où un algorithme pourrait concevoir un pathogène létal à partir de rien présente des risques réels, appelant à la mise en place de garde-fous par les chercheurs et entreprises.
Comment alors préparer la société à ces mutations ? Jean-Marc Rickli plaide pour une prospective réfléchie, visant non pas à prédire l’avenir, mais à identifier des scénarios plausibles. L’objectif est d’anticiper et de préparer ce que pourrait être notre monde si ces technologies venaient à se généraliser.
Né en 1974, Jean-Marc Rickli, expert des impacts sécuritaires des technologies émergentes, a coécrit un livre sur la guerre contemporaine, *Surrogate Warfare. The Transformation of War in the Twenty-first Century*, publié en 2019.
La quotidien nous rappelle ainsi que la formidable puissance de l’innovation doit toujours être accompagnée d’une réflexion éthique et d’une vigilance sociétale. Préparer les esprits et les sociétés à l’impact des technologies de demain ne doit pas être négligé.