V01. Fonctionnement des LLM : ce qu'il faut savoir 🤖

Dans cette vidéo, on va voir ensemble comment fonctionne un LLM.

Parce qu'en fait, avant de vouloir l'utiliser en entreprise, ou justement même pour soi, c'est important de comprendre la distinction avec un programme classique et comment ça fonctionne.

Puisque c'est à partir de là que vous allez pouvoir avoir les briques logiques pour savoir comment réagir quand il vous fait des curiosités.

Alors on va voir ça à travers différents points, d'abord on va voir ce qu'est un LLM et en quoi il est considéré comme un prédicteur de mots en quelque sorte, comment on le fabrique à travers ses phases d'entraînement, ce qu'il voit, donc c'est là où on parlera vraiment de token et de contexte, ça c'est des concepts importants à comprendre, et ensuite on parlera justement, on évoquera le fait qu'il hallucine et pourquoi, et ce que ça change du coup pour toi à travers ton travail avec Lyon.

Donc la première chose à avoir en tête, c'est qu'un LLM n'est pas un programme classique.

On ne lui écrit pas de règles à proprement parler, on lui apprend à prédire.

C'est-à-dire que là où un programme classique, en fait, on va définir plein de scénarios qui vont se déclencher selon certaines situations, à travers certaines informations qui sont mises à disposition, et même un algorithme est un ensemble de règles et de calculs mathématiques qui vont se déclencher à des moments donnés selon un contexte donné.

mais pour lesquels justement un humain va écrire chaque règle, on va le coder et l'ordinateur va être là pour l'appliquer, le dérouler en fonction de la situation, et ça va être déterministe à 100%.

LLM c'est très différent puisqu'en fait On va lui apprendre des choses, on va le nourrir, mais il va avoir plusieurs phases d'entraînement.

On va lui donner plein d'informations et à partir de là, on va lui créer un langage de neurones, on va lui créer une mémoire, un cerveau dans lequel il va aller piocher de l'information en temps réel pour pouvoir vous répondre.

Ce qui fait que les règles ne sont pas figées et prévisibles, puisqu'en fait c'est lui qui a son cheminement d'une neurone à l'autre, d'un bout de mémoire à l'autre, il va faire des associations, et de fait quand on lui pose la question, il va aller chercher là-dedans pour vous répondre en fonction de ce qui lui semble le plus pertinent, le plus plausible par rapport à ses associations d'idées.

Donc il faut bien l'avoir en tête ça, on peut avoir des réponses déterministes dans certains cas avec une IA, notamment avec une IA en local, si on intervient sur certaines règles, on lui pose toujours exactement la même question avec le même nombre de caractères, le même contexte, elle va être en mesure, avec un paramètre qu'on appelle la température, de vous donner toujours la même réponse.

Mais en revanche, le chemin qui l'amène jusqu'à cette réponse, vous n'avez pas la main dessus.

et personne ne l'a.

C'est elle, à travers son apprentissage, qui a créé et forgé ses propres règles.

Gardez en tête que l'IA, dans le principe de très loin, très simplifié, c'est un peu comme le T9 ou la complétion sur votre téléphone.

Quand vous écrivez un message, on va vous faire des suggestions pour le prochain mot, ou terminer votre mot avec différentes syllabes.

En fait, l'IA va faire ça de manière extrêmement sophistiquée.

Le premier principe, justement, ça va être ce concept de complétion de texte.

Mais à travers cette mémoire, elle va faire du raisonnement et en fait, elle va aller plus loin.

Et en fonction des associations, elle va pouvoir vous proposer différents mots en fonction des choses.

Et voilà, c'est ça qui va la rendre plus qu'un perroquet stochastique qui lui a été reproché pendant un temps de juste compléter vos phrases et répéter bêtement des choses qu'elle avait apprises.

Non, en réalité, elle en mesure en quelque sorte une certaine manière de réfléchir, puisqu'elle va taper dans ses différentes neurones pour vous répondre, et elle le fait à partir de milliards de textes.

Mais du coup, les règles ne sont pas définies à l'avance.

Et la brique qui rend ça possible, c'est le fameux T de GPT, donc c'est le principe de transformer.

C'est qu'en fait, l'IA, le LLM, quand vous allez justement lui donner en fait toute une information, tout un contexte, elle ne va pas prendre des petits bouts petit à petit, elle va lire l'ensemble de ce que vous lui donnez.

Et donc comme elle voit toute la page d'un coup, c'est ça qui lui permet d'assurer une certaine cohérence, un certain raisonnement qui va se faire sur un contexte complet, même si on y reviendra plus tard.

Et il y a des nuances à apporter puisque si vous lui donnez trop d'informations, trop de contexte, elle ne sera plus en mesure de tout lire d'un coup et c'est là qu'elle ira piocher des morceaux.

Mais si vous lui donnez de l'info dans un cadre contenu, elle va être en mesure de lire en intégralité et de s'en imprégner.

Donc, à garder en tête qu'on ne lui apprend pas à parler, on lui apprend à compléter.

Et cette complétion, à travers son raisonnement et ses associations, vont lui permettre de nous donner ce sentiment de conversation et de discuter avec quelqu'un qui, potentiellement, pourrait avoir une conscience, mais on n'en est pas encore là.

Et pour comprendre justement les différentes étapes qui l'amènent jusqu'au niveau conversationnel, il est important de saisir comment on l'entraîne.

IA, comme on l'a dit, va d'abord être entraîné avant de pouvoir nous répondre, avant de pouvoir compléter nos phrases, répondre et nous donner des contenus.

Donc la première phase, ça va être le pré-entraînement.

On va lui donner énormément de contenu.

C'est les moments où on lui donne à peu près tout, Internet.

Et on va compléter cet Internet avec des données d'entreprise, avec des données d'entraînement qui ont été vraiment étudiées, sélectionnées, qui sont des données fiables sur plein de domaines.

Puisqu'en fait, le LLM de Large Language Model, Il faut avoir en tête qu'il est vraiment conçu pour être un modèle généraliste, donc avoir une connaissance qui est très riche, très poussée sur plein plein de domaines.

Ce qui lui permet d'être polyvalent, mais ce qui apporte aussi des limites puisqu'il ne peut pas être expert en tout, il va avoir un certain nombre de données à disposition.

Donc la première phase c'est ce pré-entraînement.

On le gave de données.

La deuxième phase ça va être le fine tuning.

Donc dans cette phase, c'est là où ça devient, comment dire, on rentre dans une spécification un peu humaine, puisqu'en fait on va aller calibrer un petit peu, affiner cet entraînement, on va faire une espèce de surcouche pour le rendre conversationnel.

Puisque de base, un LLM n'est pas un chatbot, n'est pas un assistant avec lequel vous allez discuter comme ça.

C'est lors du fine-tuning qu'on va mettre en place ce process pour l'habituer au système de question-réponse, question-réponse, avec des annotations, avec un cadre pour le basculer en mode chat.

Et enfin, la troisième phase, c'est ce qu'on appelle le RHF, où les réponses de l'IA vont être évaluées par des humains, soumises au dégris d'évaluation, et on va l'ajuster, on va le cadrer pour le rendre socialement acceptable.

et lui mettre en place des garde-fous.

Donc essayer de le cadrer davantage pour l'empêcher de dérivier.

Puisque vous l'avez compris du coup avec les deux phases d'avant, surtout le pré-entraînement, il a à disposition énormément de données et d'informations qui pourraient être utilisées et mises en oeuvre à mauvais escient.

Donc les deux phases d'après, le fine tuning et le RLHF sont là pour le cadrer, pour lui vraiment l'aider à raisonner dans le bon sens et éviter...

qu'il ait des propos discriminants, des propos racistes, qu'il puisse vous expliquer comment faire une bombe et ce genre de choses.

Donc voilà, ce sont ces trois phases-là qui vont permettre de lui donner son cadre d'assistant chatbot.

Et à retenir, c'est qu'il a entraîné pour plaire, pas pour avoir raison, puisqu'il est là justement pour vous satisfaire en vous apportant des réponses, qui sont dans un cadre donné, qui répondent aux règles qu'on lui aura enseignées, qui consiste en fonction de chaque fabricant, de chaque fournisseur, à le rendre plus ou moins honnête, plus ou moins conciliant, plus ou moins gentil, plus ou moins plus ou moins direct ou franc ou brut.

Gardez vraiment à l'esprit qu'un LLM est cadré, il est balisé sur ces points-là et il est entraîné à communiquer avec vous d'une certaine manière.

Donc, ce qu'il faut retenir, c'est que tu parles à quelque chose qui veut que tu sois content.

Pourquoi c'est très important de retenir ça?

C'est que vous allez devoir et tu vas devoir systématiquement remettre, enfin pas systématiquement, mais régulièrement en question ce qu'il te propose et le challenger.

Justement parce que si tu lui poses une affirmation en lui demandant s'il est d'accord avec toi, naturellement il sera d'accord avec toi.

Il faut lui demander d'aller critiquer, d'aller prendre du recul, d'aller appuyer et poser des arguments contre ton idée, ta proposition, pour qu'il puisse en fait vraiment te donner des informations et que tu te rendes compte qu'en fait il n'est pas d'accord avec toi, que tu peux être dans l'erreur et ne pas se fier systématiquement à sa première réponse qui reste dans une logique de vouloir être agréable.

Maintenant pour cette mémoire, comment ça se passe et que sont les tokens et quelle est la fenêtre de contexte?

De quoi on parle?

Les tokens, c'est quelque chose dont on va parler à de nombreuses reprises, ça reviendra régulièrement, puisque c'est comme ça que lit une IA.

Quand on parle d'IA, je ne l'ai peut-être pas précisé au début, mais on parle d'IA générative, qui est une famille très spécifique de l'IA.

Des tokens, ce n'est pas un mot complet, ça va être un morceau de mots.

Et en fait c'est un peu l'unité de mesure de tous les LLM aujourd'hui sur le marché.

Ils sont en mesure d'accepter une certaine quantité de tokens en entrée, donc vraiment quand on va leur donner un contexte, donner des informations, poser la question, lui mettre des documents, etc.

Et elle va avoir une autre fenêtre de contexte, enfin de token oui, en sortie, c'est-à-dire qu'elle ne peut pas ingurgiter autant d'informations qu'elle peut en restituer d'un coup.

Si vous lui donnez 700 pages d'un texte et qu'elle a en mesure de lire les 700 pages, ça ne veut pas dire qu'elle va pouvoir en rédiger 700 derrière.

Elle va pouvoir en rédiger 10, 20, 50, 100, ça va dépendre des différents modèles et de cette taille de contexte accepté en entrée et en sortie.

Mais le token c'est le nerf de la guerre, si vous travaillez avec de l'IA à des moments d'automatisation avec des API, ce sera facturé au token, ce ne sera pas facturé sur des abonnements comme on peut l'avoir avec du cloud, avec du chat GPT, où aujourd'hui on paye un certain montant par exemple.

18 euros pour un Cloud Pro, un abonnement mensuel, et qui va nous permettre de parler en fait à une certaine quantité, d'échanger un certain nombre de messages par tranche de 5 heures.

En fait cette quantité qui est définie dans les tranches de 5 heures, c'est une quantité qui est évaluée en token.

Donc on n'est pas vraiment sûr de les limiter, même dans les formules d'abonnement.

Donc voilà, ça c'est très important à comprendre.

Et ensuite la fenêtre de contexte, c'est justement la mémoire à court terme, la mémoire de travail et de sessions que vous allez pouvoir avoir avec votre assistant.

C'est-à-dire que quand vous commencez une nouvelle conversation avec Claude, sa fenêtre de contexte est vierge.

Vous allez discuter avec lui, il va remplir cette fenêtre de contexte petit à petit.

Une fois qu'elle est remplie, pour qu'il puisse continuer à travailler, ce qu'il va faire, c'est qu'il va compacter le contexte pour en faire un petit résumé continuez à discuter avec vous.

Le problème quand il fait ça c'est qu'il va perdre l'intégralité du contenu pour n'en garder qu'un résumé, que des lignes directrices.

Donc votre enjeu, ton enjeu, c'est de ne jamais atteindre la limite de contexte.

Aujourd'hui sur cloud on peut il peut monter jusqu'à un million de tokens, ce qui peut paraître énorme, mais en fait qui peut être rempli très vite si on commence à utiliser des outils, donc une connexion avec un drive, avec un notion, avec différents outils, qu'on va chercher des documents là-bas.

Là, il va faire plein d'appels dans tous les sens pour aller chercher cette info, et ça va remplir très très vite son contexte.

Si on lui met 50 pages de texte ou 200 pages de texte alors qu'on a besoin de travailler que sur 3, même chose, on va gaver son contexte, on va le remplir avec de l'information qui est superflu.

Et donc là on va se retrouver avec un contexte qui sera trop grand, au lieu d'avoir justement le fait qu'il voit l'intégralité de ce qu'on lui a donné, il sera obligé d'aller chercher que des sections et des portions parce qu'il ne sera pas en mesure d'emmagasiner tout ça.

Donc, à garder en tête que la fenêtre de contexte, il faut la garder la moins remplie possible.

Donc, toujours aller aux documents et aux informations les plus pertinentes, bien sélectionner ce qui va être utile ou non à l'IA pour lui donner que ce qui peut être utile.

Toujours éviter de la faire saturer, on discute avec Claude dans une conversation et dès qu'on voit qu'il commence à se tromper un petit peu, à être imprécis, on s'arrête là et on bascule dans une nouvelle conversation, quitte à lui demander justement de préparer le prompt pour reprendre la conversation dans la nouvelle...

Enfin voilà, pour que dans la nouvelle session, la nouvelle conversation, on ait assez de contexte et on puisse lui redonner un prompt assez complet, assez détaillé pour conserver le travail qu'on a réalisé en amont.

Mais si l'IA commence à vous raconter n'importe quoi, c'est que vous avez dépassé le contexte où vous l'avez trop rempli et qu'elle commence à défaillir.

Donc on fait très attention à ça, et pour te donner une idée, dans un contexte de développement par exemple, les créateurs de Cloud préconisent de ne jamais dépasser 30 à 40% du contexte pour garder une IA qui soit vraiment efficiente et pertinente et qui fasse le moins d'erreurs possible.

Donc 30 à 40% sur un million de tokens, c'est déjà beaucoup, mais ça reste très loin de la fenêtre complète, donc vraiment toujours faire attention à ça.

Pourquoi l'IA hallucine?

On l'a vu tout à l'heure, elle est entraînée à partir de beaucoup de contenus.

Elle a ensuite cadré pour être agréable et répondre justement d'une manière agréable et sympathique.

Mais à travers son apprentissage, elle a fait des associations d'idées.

Donc en fait, ce qu'elle va chercher à faire systématiquement, l'IA quand elle vous répond, c'est aller chercher le plus plausible.

Donc elle peut avoir accès à l'information qui est juste et qui est vraie, qui est vérifiée.

mais elle peut aussi avoir accès à de l'information qui est fausse, qui a été ingurgitée mais qui est erronée parce que cette information est obsolète ou incomplète, ou elle a été créée de toute pièce pour être fausse.

L'IA va se baser vraiment sur une espèce de moyenne en fonction de la quantité de contenu qu'elle a vu le plus, de ce qui lui semblait pertinent par rapport à ses règles, par rapport à sa façon d'apprendre, et elle va toujours vous restituer le plus plausible.

C'est là où il faut être attentif quand on travaille sur un domaine qu'on connaît bien.

Généralement, quand on commence à faire des écarts et à se tromper, on va être en mesure de l'identifier plus facilement.

En revanche, quand vous travaillez dans un contexte d'entreprise sur un domaine client que vous ne maîtrisez pas, c'est là où vous pouvez vous retrouver avec des informations qui ont l'air justes mais qui ne le sont pas.

Donc, au moindre doute, à la moindre chose qui n'est pas claire, pensez toujours à questionner Lydia pour clarifier ce qu'elle vous dit, pour bien comprendre ce qu'elle vous dit puisqu'au moment où elle va essayer de vous expliquer les choses, de les clarifier quand vous allez remettre en question ses informations et ses réponses, c'est là qu'elle va être en mesure de se questionner et de réaliser en vous expliquant qu'elle a dit une bêtise.

et se reprendre et vous dire, là-dessus c'était incomplet ou c'était faux, ou alors c'est vrai mais que dans tel et tel cas de figure, et c'est là-dessus que vous allez pouvoir affiner, calibrer et trouver la bonne posture et la bonne information.

Donc ça, on a deux moyens justement de pallier à ce problème-là.

Le premier, comme je viens de le dire, ça va être de questionner et dès qu'on voit quelque chose qui n'est pas clair ou qui paraît un peu probable, d'aller questionner l'IA.

Et l'autre point, ça va être et c'est à travers la méthode, on en parlera plus tard de la méthode et du skill qui va avec, mais à travers la méthode qui va être suivie et que tu vas pouvoir utiliser dans ce bootcamp, il y a toute une étape qui permet de mettre en place une grille d'évaluation pour que ta solution IA, elle ait des critères objectifs de vérification, qui sont définis avec les métiers, et qui permettent d'être au clair sur ce qui doit être vérifié ou pas, ce qui est juste ou pas, et de t'assurer que quelque chose qui est produit par l'IA répond bien aux critères et à ce qui est demandé, et donc est viable.

Mais aujourd'hui, l'IA doit, à mon sens, peut-être pas tout le temps, mais en tout cas l'essentiel du temps, être relu et corrigé, en tout cas relu par un humain avant d'arriver dans les mains d'un client, d'un utilisateur final ou d'une utilisatrice finale.

Donc toujours avoir un contrôle humain à un ou plusieurs endroits de la chaîne et bien faire attention à cette notion d'évaluation.

dès aujourd'hui à avoir en tête, que l'IA est entraînée à plaire, donc toujours à la challenger.

Si quelque chose n'est pas clair ou semble potentiellement erroné, on la questionne, on discute avec elle, on clarifie, on l'interroge.

Toujours se soucier du contexte avant la question.

Le plus important, ce n'est pas forcément la formulation de la question, même si ça a du poids bien sûr, mais ça va être l'information qu'on va mettre à disposition de l'IA.

Donc bien lui mettre une IA et on va en reparler après dans la prochaine vidéo un contexte qui soit adapté, qui soit le plus pertinent possible.

On doit toujours évaluer chaque sortie.

parce qu'elle n'est pas forcément objective, elle n'est pas forcément en mesure de distinguer le vrai du faux.

Elle a un certain nombre d'informations à disposition, elle va vous donner le plus plausible, et du coup il va être nécessaire de faire le tri là-dedans et donc d'évaluer ses réponses.

On surveille toujours la fenêtre de contexte parce qu'elle va se dégrader au fur et à mesure de la conversation, donc dès qu'on repère des petites choses et des moments où elle commence à faire des bêtises ou à dire des bêtises et qu'on est obligé de la corriger ou de lui rappeler des informations qu'on a déjà données plus tôt, alors c'est le moment de passer dans une nouvelle conversation.

Et enfin, la dernière règle, c'est que par défaut l'IA n'est pas déterministe, Puisque pour la rendre déterministe, il faut des cas très particuliers.

Je l'ai évoqué très rapidement à un moment.

Il faudrait l'utiliser en local, avec une température très faible, avec un contexte qui soit systématiquement identique.

Donc, dans un usage métier de tous les jours, l'IA n'est pas déterministe et on doit faire très attention.

avec elle.

Donc, j'espère que vous avez très bien compris.

N'hésitez pas à poser des questions dans le Discord si jamais certains points de cette vidéo n'étaient pas clairs et que tu veux des informations complémentaires.

A retenir ce qui est ici, que c'est un prédicteur de token, qu'il y a une fenêtre de contexte qui est limitée, qu'elle est entraînée pour plaire, qu'elle ne fait pas la différence entre le vrai et le faux.

Et dans la prochaine vidéo, on clarifie tout ça avec les différentes briques d'un système IA.

Merci d'avoir suivi cette vidéo, n'hésite pas à poser des questions si certains points sont à clarifier.