Le "parrain de l'IA" quitte Google pour tirer la sonnette d'alarme

Le groupe qui met en garde contre les dangers potentiels de l'intelligence artificielle (IA) s'est enrichi d'un nouveau membre influent. Selon le New York Times, le pionnier Geoffrey Hinton a démissionné du géant technologique Google afin de pouvoir s'exprimer librement sur les risques potentiels de cette technologie qui émerge rapidement. S'adressant au journal, le scientifique a déclaré qu'il avait quelques regrets concernant l'œuvre de sa vie.

Peu de personnes peuvent parler de l'IA avec autant d'autorité que M. Hinton. Ce Britannique, qui a émigré au Canada, est connu comme le parrain de l'IA, car ses travaux pionniers sur les réseaux neuronaux ont jeté les bases de la technologie qui est en plein essor aujourd'hui. Pour cela, Hinton, ainsi que ses collègues Yann LeCun et Yoshua Bengio, ont reçu le Turing Award, un prix considéré comme le prix Nobel de l'informatique.

Alors que cette technologie sort des laboratoires et qu'elle est largement considérée comme la prochaine grande nouveauté dans l'industrie technologique, de plus en plus de scientifiques mettent en garde contre les risques qu'elle comporte. Fin mars, un millier d'experts ont appelé à une "pause" dans le développement de l'IA dans une lettre ouverte afin de permettre des recherches plus approfondies sur les conséquences possibles de l'intelligence artificielle générative telle que le chatbot ChatGPT. Quelques instants plus tard, l'Association for the Advancement of Artifical Intelligence, une société universitaire spécialisée dans l'IA, a publié sa propre lettre d'avertissement.

Ses principales préoccupations

Bengio a apposé sa signature sur les deux appels, mais il y a eu un silence ostensible dans le camp de Hinton au cours des derniers mois. Cela ne veut pas dire que le professeur a évité le débat. Dans le New York Times, Hinton explique qu'il ne voulait pas critiquer Google alors qu'il y travaillait encore. C'est pour cette raison qu'il a démissionné le mois dernier, semble-t-il.

Le parrain de l'IA est très inquiet. "Il est difficile d'imaginer comment empêcher des personnes mal intentionnées de faire de mauvaises choses avec cette technologie", déclare M. Hinton.

À court terme, le scientifique craint un déferlement de photos, de vidéos et de textes truqués, au point qu'"une personne moyenne ne puisse plus savoir ce qui est vrai et ce qui ne l'est pas". Il craint également que la technologie ne tarde pas à passer du statut d'outil pour de nombreux métiers à celui de substitut. Hinton pense ici aux traducteurs, aux assistants personnels, aux assistants juridiques ou à d'autres emplois comportant de nombreuses tâches routinières, entre autres.

À plus long terme, M. Hinton craint pour l'humanité. Ce faisant, il souligne que l'IA découvre souvent des modèles inattendus ou peut tirer des conclusions à partir de la quantité massive de données qu'elle traite. Le fait que les systèmes ne se contentent plus d'exécuter ce que les humains leur demandent, mais qu'ils soient capables de générer et d'exécuter eux-mêmes du code, pourrait devenir dangereux, selon lui. Ce faisant, les armes autonomes ne sont plus un scénario catastrophe impensable.

La surenchère avec Microsoft

M. Hinton a longtemps considéré Google comme un berger responsable de la technologie. Mais depuis que Microsoft, dans le cadre de son partenariat avec la start-up OpenAI, a pris la tête de la course et commencé à intégrer l'IA dans ses produits et services à une vitesse fulgurante, le géant de la technologie est soumis à une pression intense. M. Hinton craint une surenchère qui pourrait rapidement le faire dérailler. Le Britannique affirme qu'il ne veut pas prendre part à une telle escalade. Il a passé dix ans chez Google, qui a racheté sa start-up spécialisée dans l'intelligence artificielle en 2013.

Dans un commentaire au New York Times, le directeur scientifique de Google, Jeff Dean, a fait savoir que l'entreprise restait "engagée dans l'utilisation responsable de l'IA". "Nous nous renseignons constamment sur les risques potentiels, tout en continuant à innover avec audace", a-t-il déclaré.

Alors que les craintes d'un scénario apocalyptique se multiplient, les avis restent très partagés sur le sujet. Ainsi, LeCun, qui a reçu le "prix Nobel" avec Hinton et Bengio, reste fermement convaincu qu'un scénario dans lequel l'IA prendrait le dessus sur l'humanité est tout à fait impossible.