Ces dernières années, l’intelligence artificielle s’est beaucoup développée. On peut désormais converser quotidiennement avec ChatGPT (OpenAI) ou Claude (Anthropic). En plus de cela, les entreprises ne cessent de développer des robots humanoïdes, parfois dangereux, comme ce robot qui a poursuivi des enfants dans la rue.
Aujourd’hui, l’intelligence artificielle prend de plus en plus de place dans notre quotidien, à tel point qu’elle pourrait devenir une menace. Certains professionnels du secteur ont déjà lancé des alertes, comme le “père de ChatGPT” qui réclame une pause dans les recherches sur l’IA, évoquant des “risques majeurs pour l’humanité”.
L’IA pourrait tous nous tuer d’ici 2030
Mais il n’est pas le seul à s’inquiéter. C’est aussi le cas de Jacob Coxon, un Britannique âgé de 27 ans qui a travaillé chez OpenAI avant de se diriger vers le géant américain Anthropic. Après avoir travaillé sur place, il a démissionné, trop inquiet du développement intense de l’IA qui pourrait devenir incontrôlable d’ici quelques années. En effet, selon Jacob Coxon, les professionnels du secteur estiment que l'intelligence artificielle pourrait tuer tous les humains d’ici 2030.
“Aucune autre activité humaine ne pose un tel niveau de danger. Aucune des deux entreprises (OpenAI ou Anthropic) n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies. Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing”, a-t-il alerté sur son compte X.
Cesser le développement de l’IA
Selon Jacob Coxon, le danger réside dans le fait que l’IA pourrait devenir superintelligente, c'est-à-dire se développer toute seule et évoluer sans que l’humain n’ait plus aucun contrôle sur elle. Le chercheur n’est pas le seul à penser cela puisque c’est également le cas d’Evan Hubinger, responsable de la sûreté chez Anthropic, qui estime à plus de 10% le risque que l’IA tue tous les humains dans les dix prochaines années.
Crédit photo : @hilbertspaess / X
Face à cette situation alarmante, Jacob Coxon appelle ses confrères à suspendre le développement de l’IA.
“Je vous exhorte à réfléchir à ce que les prochaines années vont réellement impliquer. Voulez-vous lancer un entraînement sur une superintelligence sans avoir une compréhension rigoureuse de son fonctionnement mental ? Devez-vous continuer tête baissée au motif que “cela arrivera de toute façon”, ou saisir ce moment pour demander que les conditions soient différentes ?”
Son appel sera-t-il suffisant pour faire réfléchir les leaders du secteur ?
