Publié le 12/06/2023

IA Générative : attention à ne pas lui donner n’importe quoi !

« l’IA générative et ses possibilités ». (2/5). Les bases techniques de l’IA générative sont simples mais très puissantes. Il est indispensable d’avoir une validation humaine pour les décisions critiques. Et pour l’entreprise, son utilisation doit intervenir seulement après enrichissement des données.

IA Générative

« C’est bluffant. Franchement, c’est bluffant ! ». Qui n’a pas eu cette pensée en essayant ChatGPT. Et d’ailleurs le terme « bluffer » s’applique bien à cette IA Générative : C’est à la fois très impressionnant mais cela donne aussi une impression un peu « gonflée » de ce que l’on peut en faire. Il ne s’agit pas là ici de condamner cette technologie mais bien comprendre ce que l’on peut attendre d’elle.

L’IA générative a pris une place considérable dans la presse ces derniers mois mais n’est pas en fait pas si nouvelle que cela. Le chercheur français Yann leCun, responsable IA chez Meta, déclarait d’ailleurs il y a quelques temps que :

« En termes de techniques sous-jacentes, ChatGPT n’est pas particulièrement innovant. Il n’y a rien de révolutionnaire, même si c’est la façon dont il est perçu par le public. C’est juste que, vous savez, c’est bien ficelé, c’est joliment fait. » [1]

De fait, la génération de texte (ou d’image) est une évolution (un aboutissement ?) des travaux menés successivement sur les réseaux de neurones profonds. Le traitement des Time Series avait initié les efforts pour prendre en compte un contexte pour faire une prédiction. Et en fait, techniquement, la base de l’IA Générative est bien de proposer un mot (un token ) à partir de la séquence qui précède.

De manière caricaturale, cela revient à vous demander le mot qui suit dans la phrase « Joyeux Noël et Bonne XXXX ». Sans doute, avez-vous de vous-même remplacé les « XXXX » par « année » car c’est habituellement le mot qui suit. Alors, évidemment, pour des modèles de type GPT (Generative Pre-Trained Transformers) il a fallu donner beaucoup, beaucoup, beaucoup d’exemples pour arriver au résultat que nous connaissons tous. Mais d’un point de vue technique, l’objectif est « simplement » de trouver le mot qui statistiquement est le plus probable dans une phrase en construction car la machine n’en a pas de compréhension réelle. D’ailleurs, afin de faire varier les réponses, les modèles de DeepLearning proposent un paramètre de « température » afin de faire bouger les probabilités de génération. Microsoft sur sa plateforme Azure OpenAI le décrit comme un paramètre «à utiliser qui contrôle la créativité apparente des complétions générées » [2]

Intelligence Artificielle ou Experience Artificielle ?

Ceci nous amène à nous interroger sur le rôle que peuvent jouer ces nouveaux outils et de manière presque philosophique sur notre propre manière de travailler, d’être.

Depuis que les travaux sur ces sujets existent, le terme d’Intelligence Artificielle est quasiment un faux-ami. On devrait sans doute parler d’avantage « d’Expérience Artificielle » tant les principes mathématiques qui président à son existence suppose que l’on soumette de nombreux cas à son fonctionnement. Dans le monde du travail, encore plus qu’ailleurs, c’est bien le fait d’avoir rencontré de nombreux cas qui fait qu’un senior pourra réagir peut-être plus vite et mieux qu’un débutant : « C’est ça qu’il faut faire, car c’est comme cela que, dans ce type de cas, qu’on s’en sort le mieux ».

Combien d’entre nous, après plusieurs années dans une société, avons développé des véritables « bibliothèques » de slides PowerPoint que nous utilisons et réutilisons jusqu’à plus soif ? Qui ne finit pas par avoir des « réponses toutes prêtes » à des objections d’un client ou d’un collègue. C’est le « prêt à penser » que l’on peut dénoncer parfois.

Peut-on l’utiliser en entreprise ?

Mais, au sein de votre entreprise, y-a-t-il des postes, des missions qui nécessitent d’abord et avant tout une bonne connaissance de l’entreprise, de ses processus et de sa documentation ? On peut naturellement penser aux call centers pour lesquels les réponses sont souvent scriptées ou nécessitent une connaissance approfondie des contrats et de leur interprétation. Les FAQ ou bien encore les assistants numériques si présents sur les sites web sont des bons candidats pour bénéficier des apports de l’IA générative. L’adaptation d’un modèle (Large Language Model) au contexte de votre entreprise pourra alors se faire grâce à « entrainement » complémentaire à partir d’une base documentaire existante.

A l’inverse, et fort heureusement, tous les jobs ne répondent pas à ces critères d’automatisme. Par exemple, si l’on cherche une idée pour se distinguer de la concurrence… et bien -par construction- on ne doit pas faire comme d’habitude, comme les autres. A la rigueur, on pourra s’appuyer sur une IA générative pour donner une idée… sur ce qu’il ne faut pas faire !

De même, nous évoquions en début d’article le fonctionnement « statistique » de l’intelligence artificielle. Un robot de type ChatGPT donnera mécaniquement une réponse à toute question qu’on lui pose. Même un terme peu probable pour un être humain… a une probabilité non nulle et est donc acceptable pour la machine. Ce sont les fameuses « hallucinations » contre lesquelles travaillent les grands groupes à coups de validation humaine massive. Un des exemples les plus frappants est celui de cet avocat qui a interrogé un robot sur des cas de jurisprudence. La machine lui a fourni exactement ce qu’il espérait trouver… jusqu’à ce que des vérifications prouvent que tout avait été inventé[1] ! « Les faits ont la vie dure » a-t-on l’habitude de dire. Et c’est ce qui est nécessaire pour des décisions critiques. Accepterions-nous d’être condamné sur la base de « comportement habituel » ? Bien sûr que non ! Alors devons nous prendre des décisions importantes pour notre entreprise sans dossier sérieusement étayé ? Non plus. Là encore, la machine peut être considérée comme une aide, mais il convient de s’assurer de l’explicabilité et donc l’acceptabilité d’une proposition.

En conclusion

Ainsi, l’IA générative rejoint en fanfare les outils que ces techniques mettent à notre disposition. Fruit d’entrainement sur des exemples massifs, il n’en reste pas moins que les réponses fournies restent l’application de calculs statistiques. Alors certes ceci est un excellent moyen de « taper » dans une base de connaissance d’entreprise et ainsi assister les rôles qui s’appuient dessus, mais il ne faudrait pas perdre de vue l’aspect non-créatif, souvent difficile à justifier des réponses produites.
Suivant le niveau d’automatisme des tâches, ce type de solution peut cependant s’avérer être un allié précieux une fois l’enrichissement d’un modèle de base effectué avec vos propres données.

Patrick CHABLE – Practice Manager Data Science