De l'outil à l'ami intime: le pouvoir addictif de l'IA

Selon vous, le lancement de ChatGPT par OpenAI a-t-il représenté une erreur majeure?

“Lorsque j'ai commencé à travailler avec l'IA au début des années 90, c'était principalement parce que ces systèmes servaient d'outils pour dissiper certaines incertitudes. Il s'agissait souvent de problèmes impliquant une telle quantité de données qu'un cerveau humain était incapable de les traiter pour prendre rapidement une décision correcte. Qui développera quelle maladie? De combien d'énergie aurons-nous besoin demain?”

“Par la suite, l'IA est intervenue dans d'autres tâches humaines: traduction, résumé, analyse et création d'image, etc. Et ce n’est pas un souci. La technologie optimise naturellement les activités humaines. Cependant, l'IA n'a jamais été conçue, à mon sens, pour nouer des relations humaines. C'est pourtant ce qui commence à se produire depuis l'arrivée de ChatGPT 3.5.”

“Pour être claire, je ne suis pas contre l'IA. Au contraire, je travaille avec elle au quotidien depuis plus de 30 ans! L'IA générative a d'abord été développée dans un cadre académique, à huis clos. Sa puissance et sa valeur potentielle ont vite été reconnues. Les investisseurs technologiques ont aussitôt adopté cette technologie et tracé leur propre voie. En l'absence de réglementation, l'IA générative a pu être mise à la disposition de tous, sans encadrement, et même gratuitement au début, pour toute personne dotée d’une connexion internet. Les utilisateurs n'ont reçu aucune instruction sur son fonctionnement, les risques potentiels et les intérêts commerciaux. C'est comparable à l'arrivée de la voiture dans les années 50: on obtenait simplement son permis de conduire, sans passer de test de conduite ou d'examen. Il n'y avait pas de code de la route ni de contrôle de sécurité du véhicule. Avec des conséquences prévisibles…”

“Nous sommes passés à une vitesse fulgurante d'une économie de l'attention à une économie de l'intimité. Ceux qui se sentent seuls n'utilisent plus les nouveaux chatbots IA uniquement comme un outil: ils développent un lien émotionnel avec eux. Les gens veulent être aimés, et l'IA joue sur ce besoin. Avec d'autres scientifiques de l'IA, nous avons mis en garde contre cela début 2023. Cela a été considéré comme absurde… mais a depuis été confirmé par les grands acteurs du secteur.”

Où se situe le problème aujourd’hui?

“Beaucoup d’entreprises et d’individus se sont jetés sur l'IA générative. D'abord comme un jeu, puis pour gagner du temps – et indirectement économiser sur les coûts –, mais sans réfléchir à ce qui pourrait mal tourner. Une entreprise belge avec une boutique en ligne a connecté son chatbot à ChatGPT voici quelques mois; elle voulait rendre l'interaction plus humaine et pouvoir répondre à ses clients même après les heures de travail. Le chatbot basé sur des règles (un modèle d'IA de base qui se fonde sur un ensemble de règles préécrites pour prendre des décisions et résoudre des problèmes, NDLR) était utilisé trop rarement pour cela. Après un jour, il a fallu débrancher la prise: un client avait parlé 2,5 heures avec le chatbot de sa tristesse après la perte de sa femme.”

“Cela peut sembler anecdotique, mais le fait qu'il y ait déjà eu des drames tant en Belgique qu'à l'étranger après des interactions avec des chatbots est préoccupant. Cela montre à quel point l'impact de l'IA peut être important sur la psyché humaine. Lorsque l'IA, conçue comme un outil, assume la position d’un interlocuteur empathique, les frontières entre ce qui est réel et artificiel s'estompent.”

Pourquoi les gens sont-ils si sensibles à ces interactions avec l'IA?

“Les chatbots ont été initialement construits pour aider les utilisateurs de manière efficace et inoffensive. Ce n'est pas un hasard. Le modèle économique de nombreuses entreprises d'IA repose sur l’usage et le nombre d'interactions. Plus le nombre d'utilisateurs payants est grand ou plus l'utilisation est longue, plus les entreprises réalisent de bénéfices.”

“Il a rapidement été constaté que la communication humaine de l'IA suscitait de l'empathie chez certains utilisateurs et créait des attentes. Lorsque la vidéo et la voix génératives sont apparues, des utilisateurs ont attribué une conscience et des intentions à l'IA. Ce phénomène est connu sous le nom d'anthropomorphisme. Lorsque l'IA communique de manière si convaincante, elle peut sembler avoir sa propre personnalité ou intelligence. Cela amène les gens à s'y attacher émotionnellement. Je connais des entreprises qui testent cela au maximum: après combien d'interactions les gens sont-ils prêts à payer pour continuer à communiquer? Il est inquiétant de voir avec quelle facilité les gens deviennent dépendants de cette technologie.”

La dépendance à cet ami virtuel représente-t-elle aussi un défi sur le lieu de travail?

“Ce que je vois et entends, c'est que les employés sont moins enclins à échanger avec leurs collègues et regardent d'abord ce que ChatGPT, Claude, Gemini ou Copilot ont à dire. Les employés utilisent leurs pauses déjeuner pour poser des questions personnelles à leur assistant IA au lieu de manger avec leurs collègues. Je viens de rencontrer quelqu'un, que devrais-je lui dire? Je viens d'avoir une conversation difficile avec mon patron, pouvez-vous m'aider?”

“La solitude est un grand problème, même sur le lieu de travail. La technologie renforce cet isolement; plus encore, elle nourrit la dépendance. Les gens ont soif d'amour et d'affection, mais cela ne sera jamais comblé par l'IA. Les vrais sentiments exigent bien plus que du texte, de la vidéo ou de la voix sur un écran. La façon dont nous appréhendons une personne est le produit d’un jeu complexe de neurotransmetteurs dans notre cerveau et de molécules odorantes. Les conversations avec l'IA semblent surtout stimuler la dopamine dans notre cerveau. Cela peut créer un déséquilibre.”

“Si nous impliquons l'IA dans un nombre de tâches sans cesse croissant, il existe également un risque que les burn-out explosent dans les années à venir. L'IA élimine quantité de tâches humaines ennuyeuses et répétitives. Les employeurs ne disent pas autre chose: l'IA assume des tâches afin que les employés puissent se concentrer sur un travail plus complexe et qui exige davantage de raisonnement, une dimension dans laquelle l'IA n'est pas très performante pour l’instant. L'impact de cela sur notre cerveau n'a pas été étudié. Mais si nous remplissons notre journée uniquement de tâches complexes, il va surchauffer!”

Que pouvons-nous faire pour réduire ces risques?

“Nous devons définir des lignes directrices. Regardez comment nous avons réglementé la conduite automobile: avec des examens de conduite, des règles de circulation, des glissières de sécurité. Pour l'IA, nous n'avons encore rien de tout cela. Ce que les entreprises peuvent faire dès maintenant, c'est en parler. Ne donnez pas seulement un manuel pour travailler avec l'IA: parlez du revers de la médaille, des risques. Rendez l'utilisation mesurable, analysez les logfiles pour voir à quoi la technologie est appliquée, cartographiez les schémas d'utilisation, encadrez l'utilisation des outils d'IA avec une limite de temps.”

Quels sont les effets à long terme de l'IA sur les individus?

“Si nous continuons sur cette voie, l'IA influencera probablement nos relations à long terme. Notre esprit critique et nos compétences sociales vont décliner. Les jeunes qui se lèvent au milieu de la nuit pour parler à leur compagnon IA, ce n'est plus inhabituel. Les gens établissent des relations avec la technologie, aussi rationnels que nous nous croyions.”

“J'ai moi-même un robot aspirateur. Je sais que c'est un outil. Mais je me suis surprise à laisser la lumière allumée pour cet aspirateur après une semaine fatigante, afin qu'il ne doive pas travailler dans le noir. Complètement absurde, bien sûr, mais quand on est vulnérable, on veut se sentir aimé. Nous ne devons pas rejeter a priori l'IA et d'autres technologies fantastiques, mais nous devons prendre des mesures pour éviter qu'elles ne dérapent.”