La phrase vient d'un homme qui a passé sa vie à défendre la technologie. Invité de l'émission « Meet the Press » sur la chaîne américaine NBC, Bill Gates a estimé que l'intelligence artificielle était « certainement assez puissante pour entraîner des événements qui, vous savez, causent un milliard de morts ».
L'entretien, mené par la journaliste Kristen Welker, sera diffusé en intégralité ce dimanche 27 septembre aux États-Unis. NBC en a dévoilé des extraits quelques jours plus tôt, et ils ont aussitôt été repris par Bloomberg, Forbes ou encore Axios. Le cofondateur de Microsoft, 70 ans, en profite pour faire passer un message clair aux dirigeants américains : l'industrie ne peut pas se surveiller toute seule.
Le danger vient de ceux qui s'en servent
Bill Gates ne décrit pas une machine qui déciderait seule d'anéantir l'humanité. Ce qui l'inquiète, c'est la rencontre entre des individus malveillants et des outils toujours plus performants.
« Même s'il est assez difficile d'atteindre 100 %, il n'y a jamais eu d'arme aussi puissante que la combinaison de personnes mal intentionnées et des derniers outils d'IA. »
Ces propos, traduits de l'anglais, ont été rapportés par Axios. Selon le site Quartz, Bill Gates s'est d'ailleurs gardé de prédire une catastrophe imminente qui mettrait fin à la civilisation. Il invite plutôt à prendre au sérieux ce que des acteurs malveillants pourraient déjà faire avec cette technologie.
Le milliardaire a précisé ses craintes ces dernières semaines. Sur CNN, fin août, il expliquait que les modèles d'IA étaient désormais capables de faire peser un risque de cyberattaque, de bioterrorisme et un risque « psychosocial ». Autrement dit, l'IA abaisse le niveau de compétence nécessaire pour attaquer des systèmes informatiques ou concevoir des agents pathogènes dangereux.
« Personne ne pense que l'autorégulation suffit »
Kristen Welker l'a aussi interrogé sur l'essai récent de Dario Amodei, le patron d'Anthropic. Celui-ci appelle les grands laboratoires à ralentir et à fixer ensemble, volontairement, des règles communes. Une proposition saluée par Sam Altman, le patron d'OpenAI, et par Elon Musk.
Pour Bill Gates, cela ne suffit pas. « Personne ne pense que l'autorégulation soit suffisante », a-t-il répondu, selon Forbes. Interrogé sur la nécessité d'une loi, il a répondu « absolument », avant d'ajouter que les forces de l'ordre et les responsables politiques devaient se saisir de la question des garde-fous et de la surveillance.
Son intervention arrive au milieu d'une vague d'alertes venues du secteur lui-même. Le 9 septembre, le chercheur britannique Jacob Coxon, 27 ans, a annoncé sa démission d'Anthropic en affirmant que « les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie ». Dans la foulée, Evan Hubinger, responsable de la recherche en alignement chez Anthropic, a estimé à plus de 10 % le risque que l'IA anéantisse l'humanité dans les dix prochaines années.
À Washington, l'appel reste sans effet pour l'instant
Le message de Bill Gates risque de se heurter à la Maison-Blanche. Mi-septembre, Donald Trump a qualifié de « canular » les appels à réguler l'IA, rapporte Forbes. Le président de la Chambre des représentants, Mike Johnson, a lui aussi minimisé les craintes, et le chef de la majorité au Sénat, John Thune, reconnaît qu'une loi d'ici la fin de l'année reste incertaine. Une réunion entre Donald Trump, Mike Johnson et des patrons de l'IA est toutefois annoncée pour ce mardi par plusieurs médias américains.
Même chez Microsoft, où Bill Gates conseille désormais la direction, le ton est plus prudent. Satya Nadella, le PDG du groupe, a plutôt défendu l'idée que les entreprises gèrent elles-mêmes les problèmes : « Si vous voyez un obstacle majeur, arrêtez tout », a-t-il déclaré dans le podcast All-In, cité par Business Insider.
L'ancien optimiste de l'IA a changé de discours
Ce virage est d'autant plus frappant que Bill Gates était, il y a encore peu, l'un des plus enthousiastes défenseurs de l'IA. Il y a quelques mois, il détaillait encore les métiers qui, selon lui, survivraient à l'intelligence artificielle.
Le tournant date du 26 août. Ce jour-là, il publie sur son blog un essai d'environ 6 000 mots dans lequel il prévient que le passage à l'ère de l'IA sera l'une des périodes les plus turbulentes de l'histoire humaine, et que personne ne s'y prépare. Il y écrit que l'IA sera « soit le plus grand facteur d'égalité jamais inventé, soit la pire source d'injustice ».
Il y propose des pistes concrètes : taxer l'usage de l'IA et des robots comme on taxe le travail humain, réserver certains emplois aux humains, et créer un organisme international inspiré des inspections nucléaires et des règles de l'aviation civile. Mais sur la question du ralentissement, il ne se fait guère d'illusions.
« Si quelqu'un avait un plan crédible pour ralentir les progrès de l'IA à l'échelle mondiale, je le soutiendrais probablement. Cependant, je ne pense pas que cela va arriver. »
La raison, selon lui, tient en une phrase de ce même essai : les intérêts géopolitiques et économiques poussent trop fort pour que quiconque lève le pied.
Source : Axios
