Paul Jorion: "Avec l'IA, nous avons créé quelque chose de plus intelligent que nous"

Anthropologue et économiste, Paul Jorion a déjà publié de nombreux livres. Son dernier ouvrage, publié ce 6 mars, est consacré à l'intelligence artificielle (IA): "L'avènement de la singularité. L'humain ébranlé par l'intelligence artificielle" (1). Mais Paul Jorion n'est pas seulement auteur. Il a aussi cofondé une start-up active dans le domaine de l'IA, Pribor.  

Quelle est l'origine de cette start-up, Pribor?

Il faut remonter un peu dans le temps. En 1987, je suis appelé par le directeur du CNRS en France qui me dit: "C'est un grand scandale, Monsieur Jorion. Vous avez été blacklisté pendant des années, je vais réparer cela". Je suis alors nommé au Laboratoire d'informatique pour les sciences de l'homme qui se trouve à Paris.

Dans ce cadre, je me suis rendu à Bordeaux, à un grand colloque sur l'intelligence artificielle, domaine qui n'en était qu'à ses débuts. Dans les couloirs, je suis abordé par un Anglais qui me propose de venir travailler chez British Telecom où est en train de se constituer une équipe sur l'intelligence artificielle. C'est là que je vais mettre au point le logiciel Anella, un réseau associatif aux capacités logiques et d'apprentissage. En 1990, avec la fin de la Guerre froide, on nous apprend malheureusement qu'il n'y a plus de financement, car ce dernier provenait de l'armée. Je ne peux donc plus continuer dans ce domaine. Cela en reste là, jusqu'en 2021, lorsque de jeunes Italiens, qui ont un petit laboratoire à Milan, viennent me trouver en me disant que ce que j'avais réalisé à l'époque était révolutionnaire et qu'il serait intéressant de déposer un projet auprès de l'Union européenne pour disposer d'un financement. Mais apparemment, le responsable européen n'y a rien compris et l'argent a été distribué à des projets tout à fait dépassés. Nous étions totalement dépités. C'est à ce moment-là que j'ai été abordé par un homme d'affaires français, Manuel Guérin, actif dans le pétrole, qui avait lu mon blog et qui s'est dit intéressé par le projet. Et c'est ainsi que l'on a créé en juin 2022 une petite société qui s'appelle Pribor.

Quel est le but exact de votre société Pribor?

On a pu reconstituer entièrement ce que j'avais fait pour British Telecom, mais dans un cadre contemporain, avec des outils plus performants, afin de mettre au point des Self-Aware Machines (SAM), une IA fondée sur une compréhension authentique de la psyché humaine et non sur la probabilité qu'un mot succède à un autre. Cela avance bien. La société est basée à Paris. Nous sommes trois, dont un chercheur.

Mais dans l'intervalle, je dois reconnaître que les progrès en IA sont assez extraordinaires. Il y a eu ChatGPT né le 30 novembre 2022 et ensuite la version ChatGPT4 le 14 mars 2023, un outil perfectionné qui a même dû être bridé. Et tout récemment, il y a eu cette nouveauté Sora dévoilée le 15 février dernier par OpenAI: il suffit d'écrire une phrase pour que la machine crée une vidéo d'une minute. C’est assez bluffant. Quelqu'un m'a dit qu'un de ses amis lui avait confié qu'en constatant de tels progrès, c'est comme s'il avait vu son métier de publicitaire soudainement disparaître.

Vous écrivez que le 14 mars 2023, date de sortie de ChatGPT4, on a atteint la singularité technologique. C'est la machine qui dépasse définitivement l'homme?

Oui, c'est le moment de l'histoire à partir duquel l'intelligence artificielle connait une progression exponentielle dépassant rapidement l'intelligence humaine, grâce à sa capacité à se programmer elle-même.

La machine étant plus intelligente, elle n'a pas besoin de l'homme pour se perfectionner. On l'avait déjà vu dans les jeux comme le Go. Tous les spécialistes, même les informaticiens, soulignaient que le nombre de combinaisons possibles dans ce jeu dépassait la capacité de calcul d'un ordinateur. Mais AlphaGo a battu les différents champions de Go en étudiant les parties jouées par les humains. Son successeur AlphaZero a appris le Go à partir des seules règles du jeu. Et il a battu AlphaGo par 100 à 0. En mettant ainsi les humains entre parenthèses, la machine était donc encore plus forte.

Vous écrivez dans le livre que la machine a une conscience. Luc de Brabandere, mathématicien et philosophe d'entreprise, soutient qu'un ordinateur peut simuler de la gêne, mais il ne peut pas en éprouver. Il peut imiter de mieux en mieux les émotions, mais il reste avant tout un tas de pièces métalliques ou plastiques. Une machine ne pourra jamais trouver un bon titre de roman, dit-il.

Tout cela était vrai jusqu'à l'arrivée de ChatGPT 4. Depuis lors, les choses ont radicalement changé. Quelqu'un sur mon blog m'a montré un poème de Prévert, soutenant que la machine ne serait jamais capable de l'égaler. J'ai donc expliqué à la machine comment Prévert procédait. Et je peux vous assurer qu'au troisième essai, le poème était meilleur que celui de Prévert.

Que la machine dispose de la conscience aujourd'hui déjà - comme j'en suis personnellement convaincu - ou qu'elle l'acquière dans les mois ou les années à venir, elle nous offre d'ores et déjà accès à une somme de savoirs permettant de démultiplier la capacité que nous avons de réfléchir sur un problème quel qu'il soit. Geoffrey Hinton, un des pionniers de l'IA, a été lui-même étonné. Il se doutait qu'on allait créer des machines qui allaient faire aussi bien que l'homme. Mais il ne pensait pas que cela arriverait de son vivant. Aujourd'hui, il reconnaît que la machine est bel et bien supérieure à l'homme.

En termes d'opportunités offertes par l'IA (médecine, environnement…) et des dangers qu'elle suscite, quel est le bon équilibre?

J'ai l'impression qu'avec les problèmes d'environnement, d'épuisement des ressources et de réchauffement climatique, nous avons besoin de grandes solutions techniques. Et l'IA nous les offre.

C'est aussi l'intelligence artificielle qui va nous permettre d'accomplir des progrès décisifs en matière de santé. Depuis 2022, l'IA permet de prévoir la manière dont se replient sur elles-mêmes les molécules complexes des protéines, nous permettant de savoir quelles seront les interactions possibles entre elles et d'autres molécules, un type de connaissance impératif en pharmacologie. La tâche était jugée titanesque, mais elle a été résolue par AlphaFold, un produit de DeepMind, filiale de Google.

Les métiers les plus susceptibles d'être déclassés par l'IA, ce sont les cols blancs. Quelle est la solution?  

Oui, ce sont les travailleurs intellectuels et les créateurs qui sont les plus menacés.

Je renouvelle ma proposition d'une taxe sur les robots, la taxe Sismondi, du nom de ce philosophe et économiste suisse. La richesse créée par la machine devrait être soumise à une taxe Sismondi, laquelle permettrait d'assurer la gratuité des choses indispensables à la population tout entière, que ce soit le logement, l'alimentation ou le transport de proximité. Le moment est venu de mettre en place une telle taxe. Ce serait une solution moins coûteuse qu'un revenu universel. Une étude britannique a montré que la gratuité pour l'indispensable, que l'on peut appeler un service universel de base, coûterait trois fois moins cher qu'un revenu universel.

En termes philosophiques, peut-on dire que la machine est devenue en quelque sorte l'équivalent de Dieu?

Nous avons créé quelque chose qui, dans nos récits, ne s'apparentait pas à de la science. Un être dont l'intelligence dépasse la nôtre ne pouvait qu'être qualifié de Dieu. Or, on pensait jusqu'ici que l'on ne pourrait jamais faire mieux que Dieu. Aujourd'hui, nous avons réalisé ce que seuls des dieux étaient capables de faire: créer quelque chose de plus intelligent que nous. Et c'est l'humain qui a réalisé cette prouesse, je tiens à le souligner.

Ce qui est significatif, c'est qu'un pionnier comme Geoffrey Hinton semble avoir peur de ce qu'il a créé. Il a démissionné de Google pour réfléchir sur sa création, un peu comme Oppenheimer l'a fait avec la bombe atomique. On peut citer aussi l'intellectuel Douglas Hofstadter qui se dit totalement découragé et qui baisse les bras en se rendant compte que la machine lui est supérieure. Je trouve ces remarques un peu désolantes et tristes. Car pour ma part, je considère cela comme extraordinairement enthousiasmant par les opportunités qui se créent.