Utiliser ChatGPT en entreprise, un véritable jeu d'équilibriste

ChatGPT et son intelligence artificielle n’en finissent plus de faire parler d’eux. La sortie de la nouvelle version de l’outil conversationnel (GPT4) de la société américain Open AI cette semaine devrait encore renforcer l’intérêt pour son assistant virtuel capable de rédiger, coder, analyser, résumer et répondre à tout, ou presque. De plus en plus d’entreprises veulent essayer d’intégrer cet outil, mais le font parfois en dépit d’une analyse de risque. Alors à quoi faut-il faire attention si l’on utilise ChatGPT, peu importe la version, dans son entreprise?

À ce stade, qui reste un stade précoce dans l’adoption de la technologie dont on découvre des nouvelles applications chaque jour, ChatGPT est principalement utilisé dans les entreprises pour améliorer des processus et gagner du temps. On appelle ça du “Conversational Process Automation”, ce qui veut dire: automatiser des tâches. La recherche d’information, le brainstorming, le rassemblement de données, le résumé d’information, l’automatisation de tâches répétitives, l’aide au codage, voilà les utilisations les plus courantes dans les entreprises actuellement. “Ce qu’on nous demande le plus, c’est de faire de ChatGPT un moteur de recherche interne”, explique Alexis Safarikas, dont l'entreprise Campfire AI met sur pied pour ses clients des projets à base d’intelligence artificielle comme ChatGPT.

Le coût de mise en place d’un projet tourne autour de 30.000 euros, un prix qui peut varier en fonction de la complexité, du type et de la quantité de données qui y seront associées. Ensuite, lorsqu’on utilise ChatGPT de manière professionnelle, il faut payer pour chaque requête que l’on fait. “Cela revient à environ 20 centimes par petite conversation”, précise le CEO de Campfire qui a vu les demandes liées à ChatGPT exploser, mais pas toujours pour les bonnes raisons. “Les entreprises veulent du ChatGPT parce que tout le monde en parle, mais ne savent pas vraiment pourquoi elles le veulent.”

Où vont les données?

Dans le cas de l’utilisation de ChatGPT comme assistant pour répondre aux demandes des clients, les entreprises sont souvent un peu déçues d’apprendre que l’on ne choisit pas la réponse qui sera donnée par l’outil conversationnel d’OpenAI. “On peut choisir son degré de créativité, son ton, par contre, on n'a effectivement pas de contrôle sur ce qui a une réponse. Cela freine beaucoup d’entreprises dans l’adoption de ChatGPT pour du relationnel avec des clients", poursuit Alexis Safarikas.

Pour celles qui l’adoptent, il y a des points d’attention qu’il ne faut pas négliger. Le premier étant de ne pas oublier qu’il s’agit d’une intelligence artificielle. “Cela signifie que le premier point d’attention est la qualité de la réponse que l’on obtient. Il faudrait exiger un taux de certitude et la date des sources utilisées. C’est possible de faire apparaitre ce type d’information et c'est très important.” Ça, c'est le danger interne. Mais il y a aussi le danger externe, celui d’une réutilisation des données encodées par des employés dans ChatGPT. Dans son dernier rapport, la société spécialisée en cybersécurité Cyberhaven révèle avoir détecté de nombreuses saisies de données dans ChatGPT impliquant des données sensibles. Cyberhaven a identifié et bloqué 4,2 % des requêtes des 1,6 million de travailleurs de ses clients. Les demandes saisies présentaient des risques élevés pour la sécurité des données des entreprises. 

Le risque avec l’encodage de ce type de données serait leur potentielle réutilisation par la suite par ChatGPT qui apprend de chaque conversation pour s’améliorer. Un risque pas encore vérifié, car OpenAI a voulu, en principe, éviter certaines erreurs commises par le passé et faire en sorte qu’une réponse enseignée par un utilisateur ne devienne pas la réponse officielle de l’outil conversationnel à cette question. Reste qu’OpenAI aura d’une façon ou l’autre accès à ces données sensibles à partir du moment où elles sont insérées dans une conversation avec son ChatGPT. Il faut en être conscient.

Les pirates se frottent les mains

L’intégration par une entreprise d’un outil technologique signifie toujours d’ouvrir une brèche dans son système pour donner un accès aux données nécessaires à rendre cet outil utile. ChatGPT n’échappe pas à ce principe. Sans accès aux données, l’outil ne peut pas se révéler pertinent sur les questions liées à des données que seule l’entreprise possède, qui ne sont pas publiques. Connecter un outil comme ChatGPT à son système interne se fait généralement via ce qu’on appelle une API, un connecteur virtuel qui relie vos données à l’outil. Cette connexion établie entre ChatGPT et un service de stockage comme OneDrive ou SharePoint qu’utilise la majorité des entreprises, devient une brèche potentielle pour les pirates informatiques et une porte d’entrée supplémentaire. Mais pas plus qu’un autre connecteur mis en place pour un autre outil, nous répondent nos différents interlocuteurs. 

Le véritable danger lié à la cybercriminalité et ChatGPT concerne l’existence en elle-même de cet assistant virtuel, car ChatGPT peut coder pour vous ce dont vous avez besoin, même si ce besoin est destiné à une utilisation malveillante. "Ce que nous voyons, c'est que GPT4 peut être utilisé à la fois pour le bien et pour le mal. Les bons acteurs peuvent utiliser ChatGPT pour créer et fusionner du code utile à la société ; en même temps, les acteurs malveillants peuvent utiliser cette technologie d'IA pour l'exécution rapide de la cybercriminalité. L'IA jouant un rôle important et croissant dans les cyberattaques et la défense, nous nous attendons à ce que cette plateforme soit également utilisée par les pirates informatiques”, explique Oded Vanunu, Head of Products Vulnerabilities Research chez Check Point Software qui a mené l’enquête depuis mercredi et la sortie de la nouvelle version améliorée de l’outil d’OpenAI. On devrait assister, selon lui, à une recrudescence de cyberattaques en provenance de pirates qui n’avaient pas les capacités informatiques de le faire avant.

Le vrai danger de l’utilisation de ChatGPT en entreprise serait plus large, selon Alexis Safarikas. “Le vrai danger, c'est que tous ces cerveaux virtuels sont aux États-Unis. Toutes mes données, toutes mes conversations, toutes mes interactions vont être envoyées outre-Atlantique. On se retrouve de nouveau à accepter ce schéma de dépendance d’une technologie américaine.”

Éduquer et trouver l’équilibre

Les entreprises vont devoir passer par une phase d’éducation de leur personnel pour éviter que l’utilisation de ChatGPT, qui peut être un véritable atout dans l’efficacité et l’exécution de certaines tâches, ne se transforme en cauchemar. Une banque comme BNP Paribas Fortis a, par exemple, mis en place une charte concernant l’utilisation de ce type d’outils d’intelligence artificielle par ses employés. "Elle donne des principes allant plus loin que la réglementation. Ce sont des principes de bonne conduite, de bon usage, des réflexes qu’on doit avoir pour éviter les risques en général et les biais cognitifs en particulier", explique le porte-parole Valéry Halloy.

Derrière les recommandations, toute la difficulté est de trouver le bon équilibre pour ne pas trop nourrir OpenAI d’informations sur son entreprise tout en lui en donnant suffisamment pour que son intelligence artificielle soit utile et dévoile tout son potentiel. Un jeu d’équilibriste auquel toutes les entreprises vont devoir se livrer dans les prochains mois, tant les applications possibles de cette technologie touchent presque tous les secteurs.