V02. Les 6 briques pour construire un système IA performant 🚀

On continue notre tour de l'IA.

Après la vidéo précédente qui revenait sur les fondamentaux en fait de LLM et les grands principes de fonctionnement qu'il y a derrière, on va continuer avec le socle vraiment d'un système IA et les différentes briques qui sont communes et aux agents IA et aux assistants IA personnalisés et qui sont nécessaires justement pour une mise en place en entreprise.

Donc on va voir ensemble pourquoi c'est un système, les six briques qu'il compose, quelle est la différence entre un assistant et un agent, et on parlera de contexte engineering, donc de l'importance du contexte.

On l'avait déjà évoqué un petit peu dans la vidéo précédente, là, on va revenir sur le sujet.

Alors, pour qu'on parle de système, et que ce n'est pas juste un chat, que ce n'est pas juste un assistant à qui on va poser des questions un petit peu à l'arrache, pour un usage métier, on va avoir besoin d'affiner et d'ajuster.

C'est-à-dire qu'un cloud ou un chat GPT de base, arrive, si on lui donne pas d'informations, pas de projet, pas de contexte, pas d'infos, il ne sait rien littéralement de ton entreprise, que ce soit la tienne ou celle de ton client, et donc à partir de là, du coup il ne connaît pas non plus les process, il ne connaît ni les contraintes, ni les méthodes, et quand tu vas lui poser des questions, il va répondre par rapport au standard, à ce qu'il a appris à gérer, mais qui n'est pas du tout spécifique au contexte de l'entreprise.

Donc pour répondre à ça, on a besoin de mettre en place un système.

Donc autour du modèle et à travers justement les différentes possibilités qu'on a maintenant dans les assistants IA, on va mettre en place différentes choses, différentes briques pour qu'ils puissent savoir de quoi ils parlent et être vraiment dans le cadre métier qui te correspond.

Donc, ça représente 6 briques qui sont importantes, donc il peut y avoir des détails, des subtilités après des interfaces différentes, mais les fondamentaux, on les retrouve à travers ces 6 briques qu'on va voir juste maintenant.

Et la première, en fait, de ces briques, ça va être le modèle.

Donc, bien garder en tête, discuter ne suffit pas, il faut lui donner de la matière, il faut donner de l'information pour pouvoir assembler tout ça et créer des solutions métiers à partir de là.

Les 6 briques.

La première, ça va être le LLM en lui-même, qui va être choisi selon la tâche.

C'est-à-dire que, par exemple, si on parle chez Claude, on va avoir trois modèles différents.

Opus, qui va être le modèle le plus complexe, le plus intelligent, le plus puissant, quelque part, mais qui va aussi être celui qui va prendre du temps et qui va coûter le plus cher.

On va avoir Sonnet, qui va être l'intermédiaire, et qui va être le bon compromis sur un usage quotidien et qui correspond aussi à la plupart des usages métiers.

Et enfin on aura Aikou qui est le petit modèle, donc qui va être rapide et qui lui est parfait pour des tâches plus simples comme de traduire rapidement un texte, de résumer quelque chose, de générer un petit texte.

Et en fait la première brique ça va être de choisir le bon modèle en fonction de la tâche, puisqu'il n'y a aucun intérêt à mettre un modèle très puissant pour une tâche très simple, et à contrario, un modèle très simple ne sera pas en mesure de raisonner, de bien comprendre un contexte et un process métier complexe avec beaucoup de matières, donc il faut toujours s'adapter à ça.

La deuxième rique, ça va être celle des instructions, c'est-à-dire le rôle et le cadre qu'on va donner.

Donc les instructions, ça passe à travers plusieurs choses, ça va passer à travers ce qu'on appelle le prompt, donc vraiment la question, la requête que vous allez faire à l'IA pour qu'elle sache ce que vous voulez, mais aussi les instructions complémentaires, de lui dire, voilà, là je suis dans tel contexte, là je parle avec tel client, il est spécialisé là-dedans, notre protocole et notre procédure habituelle, c'est ça.

Donc voilà, ça en fonction de l'interface et de l'endroit où vous allez travailler avec l'IA, du coup, les instructions, on va les apporter de différentes manières sur le SEQadre.

mais c'est absolument indispensable de le donner pour que l'IA sache en fait dans quel contexte elle doit travailler.

La troisième rigue, c'est la connaissance, et c'est là où on va aller chercher des données métiers.

Donc dans ce bootcamp, justement, tu vas avoir à disposition tout un tas de données métiers d'un bureau d'études qui vont te permettre en fait d'aller alimenter le modèle pour, en fonction de chaque usage, lui donner l'information dont il a besoin pour pouvoir travailler et te répondre.

Cette connaissance peut passer par des docs, par des procédures, ce qu'on appelle les process généralement, par la méthode.

En fait, ça va vraiment être tous les points que l'IA ne peut pas inventer, qu'elle ne peut pas deviner et qu'elle n'aura pas nativement appris parce qu'elle peut avoir appris une méthode de gestion de projet standard dans les boîtes, mais elle ne va pas connaître celle qui est vraiment en place dans ton entreprise ou dans celle de ton client pour tel cas d'usage et tel cas de figure.

J'insiste encore une fois, la connaissance est vraiment fondamentale.

Ensuite il va y avoir les outils comme Mike.

Donc les outils, ça va être le fait de pouvoir connecter en fait son LLM à un Google Drive, à un Notion, à un SharePoint, à un OneDrive, à un autre outil no code ou pas, ou même un SRM.

C'est vraiment cette intégration, cette connexion avec des outils externes qui va permettre à l'IA d'aller interroger, chercher de la donnée, ou même dans certains cas d'aller renseigner de la donnée de l'autre côté.

Alors, les outils, il y a quand même une chose importante à savoir, c'est que le standard du moment pour la communication entre l'IA et la plupart des outils est ce qu'on appelle le MCP, qui est un protocole, mais qui a une certaine limite, c'est qu'en fait, quand on passe par le MCP et que l'IA en gros a accès à une liste de tout ce qu'elle peut faire dans l'outil de l'autre côté, mais elle est obligée de faire plein d'appels pour dire qu'elle va faire telle action, elle va d'abord demander à telle fonctionnalité comment ça marche, de quoi elle a besoin, et après elle va faire un deuxième appel, d'accord j'ai besoin de ça, et lui il a besoin de quel autre point, et ainsi de suite.

Et en fait quand on utilise justement les intégrations et que l'IA va chercher des données dans d'autres outils, elle consomme énormément de tokens.

Donc elle va remplir son contexte très vite.

Donc de manière générale ce qu'il faut avoir en tête c'est qu'on branche le moins d'outils possible et que dans un contexte métier, enfin sur un usage, on essaie d'aller chercher l'information la plus ciblée également dans les outils dédiés.

Parce que si vous allez poser une question par exemple sur un CRM pour aller chercher deux infos sur un client, en fait en passant comme ça à travers le MCP, l'IA peut être en mesure de faire plein plein plein d'appels pour trouver pile le bon client qui vous allait bien, alors que vous dans l'interface vous aurez pris 10 secondes, elle en fait va faire plein de chemins supplémentaires pour arriver à la même information.

Donc selon les cas, la connexion à l'outil et faire travailler l'IA directement dessus n'est pas forcément la bonne approche, à moins qu'on soit très ciblé, très spécifique, et encore même comme ça, ça peut consommer beaucoup de contexte d'un coup.

Donc à faire très attention, mais c'est une brique qui fait partie des essentiels.

Les skills.

Les skills, il faut voir ça comme des compétences que vous allez apprendre à votre IA.

Ça va consister à lui donner une procédure, une méthode de travail, une logique de fonctionnement appliquée dans certains cas.

Un skill, il va y avoir une espèce de titre en tête que l'IA va être en mesure de lire pour savoir quand est-ce qu'elle doit l'utiliser, quand est-ce qu'elle doit le déclencher.

on lui pose une question, elle va regarder dans ses skills disponibles, est-ce que quelque chose correspond, est-ce que j'ai besoin d'utiliser un des skills, ah oui, l'utilisateur m'a demandé, m'a posé une question sur tel sujet, je vois que j'ai un skill qui correspond, je vais l'ouvrir, je vais l'appliquer.

Et donc là elle va lire le skill en entier, en tout cas la page du skill, et c'est là qu'elle va pouvoir ce qu'elle doit faire, ce qu'elle doit suivre comme procédure, si elle doit poser des questions, si elle a besoin d'informations, si elle doit aller utiliser tel ou tel outil, et vraiment c'est une procédure pour l'IA que vous allez pouvoir documenter, et un skill va avoir deux aspects, il va avoir le skill en lui-même, la page centrale qui indique à l'IA ce qu'elle doit faire, et un skill peut avoir aussi des références, donc plein d'étapes obligatoires ou facultatives, mais qui vont être détaillées dans des documents séparés, et l'IA va dérouler son skill et aller chercher le contenu quand elle arrive à la bonne étape, quand elle arrive au bon moment, et quand elle va avoir besoin de telle ou telle référence.

Le grand intérêt de cette approche, c'est d'avoir quelque chose qui soit taillé pour un usage d'entreprise, une procédure qui ne consomme pas tout le contexte de l'IA en permanence, puisque ce n'est pas quelque chose qu'elle a en entier.

dans sa mémoire, elle va juste le consulter quand elle en a besoin, et même quand elle va s'en servir, elle va faire appel aux différentes références à l'intérieur, seulement quand elle est à la bonne étape, seulement quand elle en est au moment de s'en servir et d'en tirer profit.

C'est ce que vous allez utiliser durant ce bootcamp.

Donc le skill, c'est vraiment très important, c'est devenu un standard, ça a été apporté par Anthropic, et c'est fondamental.

Et enfin, la mémoire.

Il faut savoir que justement, là on est dans l'hybride de la logique d'assistant personnalisé ou d'agent IA également, c'est qu'elle va avoir une mémoire qu'elle va alimenter toute seule au fur et à mesure de tes échanges avec elle et qu'elle va pouvoir en fait conserver certaines informations et il est possible de lui dire justement quand elle a on voit qu'elle fait toujours le même travers ou qu'elle a toujours la même erreur de comportement, on peut très bien lui dire, s'il te plaît, tu as fait la bêtise plusieurs fois, je ne vais pas faire un skill exprès, je ne vais pas faire une méthode exprès, je vais juste te demander que quand on a ce cas de figure, t'agir de telle ou telle manière.

et s'il te plaît, enregistre-le en mémoire.

Et à partir de là, en fait, elle va pouvoir le stocker en mémoire et l'appliquer quand tu te retrouves dans la même situation.

Donc, c'est important et après, quand on travaille avec de la partie vraiment argentique, la mémoire peut avoir vraiment un espace très important.

notamment dans le code, ça se fait aussi, puisque c'est là qu'elle va pouvoir mettre en place des préférences, des plans d'action, et c'est ce qui permet aujourd'hui à un assistant IA ou un agent IA de travailler en autonomie pendant des fois plusieurs heures, puisqu'elle va se référer à sa mémoire, elle va créer des fichiers et elle va dérouler comme ça des processus et des cheminements et se référer à cette mémoire et alimenter cette mémoire pour travailler longtemps.

Donc voilà, à garder en tête également.

Et enfin, la différence qu'on va avoir entre un assistant et un agent.

Donc un assistant, de base, on lui parle, il répond.

On reprend la main à chaque tour, puisqu'à chaque fois on va faire une nouvelle conversation.

Et c'est ce qu'on va utiliser cette semaine.

Mais nous, on va utiliser cette semaine un assistant de manière personnalisée.

On va utiliser les projets de Claude, on va lui apporter du contexte, on va utiliser un skill.

Donc on va utiliser, entre guillemets, l'assistant de sa manière la plus évoluée possible sans pour autant que ce soit un agent autonome.

un agent, va avoir en fait un contexte métier ciblé, on va lui donner un cadre encore plus défini et en fait à travers notre assistant personnalisé c'est ce qu'on va faire avec les projets par exemple.

Donc Claude on va donc faire un projet pour un usage mettons, lui donner des instructions et en fait on va lui donner un rôle quand on travaille dans ce projet.

En fait l'agent c'est ça mais sans être dans un cadre de projet, c'est à dire que par définition il est conçu pour telle ou telle action.

Et un agent aussi va pouvoir, contrairement à l'assistant, travailler beaucoup plus longtemps tout seul.

Et il a une brique que l'assistant n'a pas, qui est celle d'avoir un déclencheur spécifique.

C'est-à-dire qu'un assistant, ça part toujours de l'interaction humaine, on est en train de discuter avec lui, et même s'il a un skill et qu'il peut dérouler un certain nombre d'actions en autonomie, il a besoin quand même d'un premier échange humain et d'une interaction humaine pour travailler, pour se déclencher, pour faire ses choses et pour demander de l'information.

un agent peut être déclenché automatiquement, par exemple tous les matins à 8 heures, ou alors quand on travaille dans un autre dossier, on valide un document dans un outil métier, et à la validation, ça l'envoie par automatisation à travers ce qu'on appelle les API, à l'agent qui lui va réceptionner ce fichier et en dérouler tout un nouveau workflow, tout un nouveau process, L'idée cette semaine dans ce bootcamp, ça va être de travailler sur l'assistant le plus complet possible, le plus évolué, et qui se rapproche extrêmement de l'agent, sans aller jusque à cette hyper spécialisation non plus, puisque l'assistant est l'assistant personnalisé, l'assistant évolué, dans un cadre de métier bien préparer, c'est ce qui est le plus facile à mettre en oeuvre en entreprise et donc c'est nécessairement la première étape pour mettre dans une boîte de l'IA dans le quotidien, qui aide les équipes, qui assistent, avant d'aller sur les étapes justement d'agent complètement autonome ou quasiment complètement autonome.

Le contexte engineering, on en a déjà parler dans la précédente vidéo, donc je reviens dessus pour vous dire, et j'en ai reparlé aussi à l'instant, il y a quelques minutes là, quand on abordait la question de la connaissance, c'est la clé de la réussite.

C'est-à-dire que c'est vraiment le cadre la connaissance disponible pour un agent qui va lui permettre d'être pertinent, enfin pour un agent ou pour une IA en mode assistant, d'être vraiment pertinent, de répondre à la demande, d'être cohérent, de ne pas se tromper, de ne pas faire de bêtises, de suivre la bonne procédure.

Donc c'est tout ce qu'il y a autour de la question, tout ce qu'il y a autour de la demande.

C'est pas la formulation de la question, c'est vraiment tout le reste.

Et comme tu l'as sous les yeux, c'est 80% de la qualité qui se joue là.

Des fois plus, c'est vraiment la clé.

Et cette qualité, ce contexte, il va se jouer sur ta faculté en tant qu'humain, en tant que personne, à évaluer ce qui est adapté ou pas à lui donner par rapport aux informations métiers que tu as à disposition, de bien trancher, de bien choisir qu'est-ce qui va servir un lien pour travailler et pour réaliser cette solution.

Je te rassure, tu seras aidé là-dessus puisqu'à travers la méthode que tu vas appliquer, à travers le skill que tu vas utiliser toute la semaine, l'IA sera là pour te conseiller et te demander également des documents qui peuvent l'aider à travailler, à mettre en place la solution IA, mais elle ne sera pas en autonomie, ce sera d'abord à toi d'évaluer qu'est-ce qui peut lui servir, qu'est-ce qui est pertinent, et elle sera là pour corroborer ces informations et te dire effectivement, ça c'est bien, j'en ai besoin, ça me permet de travailler, là il me manque une info, j'ai besoin que tu me l'apportes.

Donc très important.

Il vaut mieux mettre moins de contexte et moins d'informations, mais qu'elle soit très pertinente et ne donner que des choses qualitatives, que de noyer l'IA sous un contexte très important avec beaucoup d'informations superflues.

Puisque là, en fait, elle va prendre tout comme important et c'est là qu'elle va se perdre et ne plus savoir identifier ce qui correspond au mieux.

Les gestes à appliquer dès aujourd'hui et à travers toute la semaine.

Ce sera toujours le fait de formaliser la connaissance, de bien identifier de quoi on a besoin, de bien définir les procédures si elles n'existent pas.

Enfin, si elles n'existent pas.

Il y a toujours des procédures en entreprise, mais elles ne sont pas forcément rédigées, elles ne sont pas forcément formalisées.

Donc l'enjeu, ça va être déjà de les comprendre et à partir des documents et de dérouler d'un métier, de savoir en fait la formaliser pour la donner à Lia, lui dire ben voilà, notre parcours fonctionne comme ça, l'étape 1 c'est ça, l'étape 2 c'est ça, l'étape 3 c'est ça, et à chaque étape il y a toutes ces informations dont on a besoin.

Si rien n'est documenté, Lia n'a rien à manger et Lia sera incapable de donner quelque chose de probant.

Deuxième geste, ce sera toujours de choisir comment partager cette connaissance et cette information.

Est-ce que ça va dans une procédure courte à travers un skill?

Est-ce que ça va être un dossier qui va être déposé juste dans un projet?

Est-ce que ça va être plusieurs documents?

Est-ce que ça va être...

Donc là on parle de connexion pour Durag.

En fait c'est ce que j'évoquais un petit peu avant à travers l'utilisation de certains outils.

C'est que dans un projet, par exemple un projet Cloud, si on met beaucoup d'informations, plein plein plein de documents, au bout d'un moment l'IA n'est plus en mesure de tout lire, et elle va faire ce qu'on appelle du RAG, c'est-à-dire que les documents vont être découpés en plein de petits morceaux, tout le document est accessible, mais elle ne va pas tout lire d'un coup.

Quand on va poser une question, elle va juste aller chercher certains bouts, certains extraits du document en fonction de ce qui lui semble le plus pertinent.

Donc c'est bien pour aller chercher de l'information spécifique, mais du coup, il faut garder en tête que l'IA n'aura plus tout le document en entier à ce moment-là.

Et quand on passe par exemple une connexion avec un Google Drive, quand on pose une question à l'IA pour qu'elle aille chercher un document dans le Google Drive, elle ne voit pas en temps réel l'entièreté d'un Google Drive.

Jamais.

Elle va juste voir des extraits, des index, et elle va aller chercher là-dedans pour trouver ce qui correspond.

Et enfin, ça peut être le document complet, donc quand c'est court, quand c'est indispensable, quand on a besoin vraiment de la cohérence et du contexte entier.

On essaye de prompter cours et de structurer autour, c'est-à-dire que ça sert à rien de rédiger des parpaings et des parpaings de textes et de consignes.

S'ILIA n'a pas la bonne matière à côté, n'a pas le bon contexte à côté, elle ne sera pas en mesure de toute façon de donner des bons résultats, donc il vaut mieux écrire moins, être plus précis, mieux qualifier sa demande et lui donner la connaissance dont elle a besoin pour qu'elle puisse y répondre et pour qu'elle puisse apporter des réponses qui soient pertinentes et probantes.

Et enfin on surveille la fenêtre de contexte, donc ça je l'ai dit, je le redis, je vous le redirai encore pendant la semaine.

Quand on voit que l'IA commence à dire des bêtises, on fait une nouvelle session, on fait une nouvelle conversation.

On voit qu'elle compacte et qu'elle résume sans perdre l'élan.

On garde en tête qu'en fait on a perdu une grande partie d'informations et qu'elle n'a plus que le résumé en tête.

Et si on a besoin de continuer une conversation mais qu'on a besoin d'informations complémentaires sur un sujet ou sur une procédure ou sur un guide pas à pas, il est préférable d'aller faire une nouvelle conversation pour aller traiter toute cette partie-là lourde à part, donc faire toute la procédure ou lui poser toutes les questions dont on a besoin pour réaliser et suivre un guide, par exemple, pour faire des actions.

et revenir dans son autre conversation une fois qu'on a réalisé tout le travail à part, qu'on a l'information qu'on voulait à la fin qui est propre, qui est bien, et pouvoir reprendre la conversation.

Mais il ne faut pas noyer en fait l'IA avec plein de sujets complexes dans la même discussion, sinon elle va s'y perdre.

Donc une discussion c'est vraiment un fil, un objectif, et on n'hésite pas à aller faire des petites conversations annexes sur des passages, ou tout simplement à changer de conversation quand le contexte est déjà remplie.

Maintenant tu as en tête les six briques pour assembler un système, tu as compris ce qu'était le context engineering, donc le fait de devoir bien comprendre la connaissance, lui donner ce qu'elle a besoin et bien jouer avec.

Tu as disposition d'un assistant aujourd'hui qui sera un agent dans la mesure où tu vas utiliser des projets pour lui donner un rôle ou tu vas utiliser un skill pour la rendre plus puissante et toujours garder en tête que 80% de la qualité Avant même le prompt, elle se fait à travers la connaissance, elle se fait à travers toute l'information qui est structurée, qui est bien pensée.

Et merci d'avoir suivi cette vidéo, n'hésite pas toujours si tu as des questions complémentaires à les poser dans le Discord ou quand on se verra en live.

Et je te laisse continuer sur les prochaines vidéos.

Merci.