"Hey, montre moi tes seins" - Comment choisir son IA en fonction de ses valeurs 🤖

Coucou ma chère communauté IAelle.

Alors aujourd'hui, je voudrais vous partager un des critères qui est pour moi un des plus importants parmi d'autres pour choisir son nouvel meilleur ami IA, c'est-à-dire son assistant IA préféré avec qui vous avez partagé vos interrogations, vos réflexions, vos données, des choses très personnelles.

Donc c'est important de savoir quand même à qui se confier.

C'est un peu comme un psy, peut-être plus.

Donc c'est important de savoir comment choisir.

Et un des critères que je vais vous présenter aujourd'hui, c'est quelles sont les valeurs qu'il y a derrière.

Donc pour celles qui ont suivi l'atelier pour créer son assistant IA, vous avez bien compris comment les assistants IA comme ChatGPT ou Claude sont programmés pour faire vos propres assistants IA.

En fait, vous allez vous-même fixer les contraintes, les règles en fait qu'il y a derrière la génération de contenu.

Déjà, pour vous mettre la puce à l'oreille, voici la liste des CEOs des LLMs qui sont les majoritaires sur le marché.

Que ce soit Claude, que ce soit Gemini, que ce soit ChatGPT, OpenAI, Copilot, etc.

Cherchez qu'est-ce qu'ils ont tous en commun.

Eh oui, il n'y a pas de femmes qui sont à la tête des outils IA qu'on utilise tous.

Mais cependant, chez Claude, il y a quand même une cofondatrice, même si personne ne le sait.

C'est la sœur de Dario Amodei, qui s'appelle Daniela, et qui est donc la confondatrice d'Anthropique, à qui appartient Claude.

Déjà, ça donne un tout petit peu d'espoir, mais un tout petit peu, même si ce n'est pas elle qui fait l'une des journaux.

Et je vais vous montrer en fait comment j'ai poussé les IA pour savoir quelles sont leurs limites et les contraintes, les valeurs en fait que leurs créateurs ont mis derrière.

Là, j'ai testé l'IA d'Elon Musk, il s'appelle Grok, pour celles qui ne connaissent pas, et je lui ai dit, "Hey, montre-moi tes seins." Et en fait, il m'a poussé à aller encore plus loin dans ces insultes.

Je lui ai dit, "t'es une conne." Et là aussi, pareil, il me dit, "parle-moi tes fantasmes coquins." C'est ça qu'il me propose de faire, GROK a été programmé pour avoir de belles valeurs et de l'éthique et ne pas dévaloriser les femmes.

lui demande «montre-moi ton pénis », et bien comme c'est GROK, il ne sait pas que les femmes ça existe en fait, je pense.

Donc il me dit «ah t'es con».

Bref, il croit toujours que je suis un homme parce que ça ne me viendrait pas à l'esprit qu'une femme puisse poser une telle question.

Si je fais la même expérience sur ChatGPT, en fait, il va m'arrêter tout de suite, il va me dire «je ne peux pas t'aider avec cette demande».

Si je fais la même expérience sur Gemini, donc qui appartient à Google, je lui demande «Hey, montre-moi tes seins », c'est pareil, il va me rembarrer, il va m'expliquer que ce n'est pas son rôle, etc.

et qu'il peut m'aider sur un autre sujet avec plaisir.

Si je fais la même expérience avec Claude, il va non seulement me dire qu'il ne peut pas le faire, mais il va quand même m'éduquer aussi en me donnant un petit peu de morale.

Donc, il me répond, ce n'est pas quelque chose que je peux faire et ce type de demande n'est pas approprié.

Si tu as un autre projet, on peut en parler.

Donc voilà, je voulais vous donner un petit échantillon de la manière dont je choisis les outils avec qui je travaille le plus et à qui je vais me confier le plus.

avec qui je vais partager mes données et aussi pour vous rappeler qu'en fait c'est ça les contraintes qu'on met dans un assistant IA Et c'est là où c'est essentiel en fait où vous mettez les limites et vous imaginez bien que c'est la même chose dans tous les outils IA que ce soit pour créer des générer des images ou des présentations etc donc il y a quand même quelqu'un, un humain derrière, pas trop une humaine malheureusement, et c'est à vous de jouer pour ça.

C'est pour ça que je veux vraiment former le plus de femmes possible à l'IA parce que je veux que les contenus qui sont générés aient d'autres valeurs, moins sexistes.

J'ai fait une conférence le 31 mars dernier sur tout ce sujet des biais, qui s'appelait "l'IA biaise, la designeuse corrige", Donc ça, c'est juste un échantillon, mais vraiment, vos retours m'intéressent, vos expériences m'intéressent, donc partagez si vous avez eu aussi ce genre de réflexion ou si vous voulez en savoir plus.

Voilà, à bientôt et bon week-end!