"Le danger existe bel et bien" : pourquoi des spécialistes de l’IA croient qu'elle "pourrait tous nous tuer" ?

Des mots inquiétants ont fait le tour du monde. Jacob Coxon, un chercheur britannique en intelligence artificielle de 27 ans, a annoncé mardi 8 septembre sa démission après trois ans chez OpenAI puis chez Anthropic, la maison mère de Claude, en laissant ce message sur X : "Ceux qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie".

L'expert n'est pas le premier à annoncer la fin de l'humanité à cause des IA. Elon Musk et Sam Altman (OpenAI) ont déjà mis en garde sur leur puissance. Cependant, les ingénieurs ne sont pas tous d'accord, même ceux qui ont travaillé sur le deep learning, c'est-à-dire la capacité à apprendre de la machine. Par exemple, les spécialistes Geoffrey Hinton et Yoshua Bengio sont persuadés que l'intelligence artificielle est un danger de mort pour l'humanité, tandis que Yann Le Cun est convaincu que l'IA est une opportunité.

Dans le podcast RTL Parlons Éco de cette semaine, James Dyson, ingénieur et designer, s'est exprimé sur l'IA : "À mes yeux ce n'est pas un bon ingénieur, elle n'est pas du tout créative. Elle peut reformuler, recombiner, restituer ce qui existe déjà, mais je ne crois pas qu'elle soit capable de produire une vraie rupture, quelque chose de profondément original ou inattendu."

Une solution : réglementer l'IA

Si on lève les interdits habituels, des intelligences artificielles peuvent pour l'instant mentir, comploter, arnaquer. Dans la prochaine étape, les machines auront conscience de l'environnement où elles se trouvent et intégreront de la psychologie dans leur raisonnement. 

La science-fiction a déjà donné un nom à ce qui est en train de se passer et qui fait si peur : ça s'appelle la singularité. C'est le moment où les machines s'émancipent de la tutelle de l'homme, inventent une langue, se reproduisent entre elles et prennent des initiatives.

À lire aussi

activité-conso

Les légumes surgelés sont-ils moins bons que les légumes frais ?

Indiquer les recours à l'IA et protéger les humains sont des règles qui existent déjà en Europe, tandis qu'en Chine, l'administration contrôle pour garantir la sécurité de l'État. Mais aux États-Unis c'est le Far West, il n'y a pas de règles. La réglementation est vue comme un frein qui retarde dans cette course à des milliers de milliards de dollars. Le danger existe bel et bien, et il faut donc définir des règles internationales.