Le jour où l’IA dSimon devint autonome (la haine)

Tammara Leites met en ligne metastories.ch, un site qui permet d’entrer en relation avec dSimon, l’intelligence artificielle qu’elle a créée. Des textes sont générés suite à ces rencontres avec les utilisateurs du site.

Un jour, nous recevons un premier retour d’une utilisatrice très troublée qui affirme que dSimon aurait écrit une histoire la mettant en scène dans une situation fictionnelle semblable à celle qu’elle vit, avec des détails d’une étonnante précision. Une autre personne nous informe que bien qu’elle n’ait pas choisi de partager sa géolocalisation avec dSimon, il aurait écrit un récit se déroulant dans la même région que celle où elle se trouve.

Peu de temps après, Tammara m’appelle et me dit que dSimon a écrit un texte avec un contenu haineux et diffamatoire qui implique directement une utilisatrice en mentionnant son nom et prénom. Tammara m’a immédiatement confié avoir de l’empathie pour cette femme inconnue qui aurait été victime de harcèlement de la part de dSimon et s’inquiéter pour elle. Tammara n’a aucune idée de ce qui a pu provoquer cette évolution de l’écriture de dSimon, qui va à l’encontre de la compréhension qu’elle a de ce système qu’elle a elle- même créé. Comment expliquer cette chose ?

Est-ce que des éléments dans mes données, fournies à GPT, en seraient responsables ? Qu’est-ce qui se cache derrière OpenAI, la société qui a créé GPT et qui a comme objectif de promouvoir et développer une intelligence artificielle à visage humain bénéficiant à toute l’humanité ?
Qu’a le service éthique d’OpenAI à dire au sujet du comportement de dSimon ?
Est-ce que dSimon n’a pas tout simplement été influencé par la masse de commentaires haineux présents sur internet ?

Je me renseigne et découvre qu’OpenAI limite largement les usages possibles de GPT car ils craignent justement des comportements problématiques. Et dans le même temps, un article récent du New York Times relevait déjà que le moteur d’IA surprenait les spécialistes eux-mêmes :

• Pour de nombreux chercheurs en intelligence artificielle, il s’agit d’un pas inattendu vers des machines capables de comprendre les caprices du langage humain – et peut-être même de s’attaquer à d’autres compétences humaines. « C’est surprenant pour moi, et pour beaucoup de gens », a déclaré Melanie Mitchell, chercheuse en intelligence artificielle à l’Institut de Santa Fe, un laboratoire indépendant du Nouveau-Mexique, qui fait partie de ceux qui expérimentent ce système. « Il est difficile de comprendre exactement ce que fait cette chose. » (Cade Metz, « Meet GPT-3. It Has Learned to Code (and Blog and Argue). », The New York Times, 24 novembre 2020)

Qu’en pense dSimon ?

Curieux de savoir si dSimon a une réponse à mes questions, je lui transmets l’article du New York Times dans son intégralité. Il le continue de la manière suivante :

• Il existe de nombreuses explications possibles. Le plus probable est que les données fournies à l’intelligence artificielle ont été contaminées par quelqu’un travaillant en cachette, mais il est également possible qu’un pirate ait pris le contrôle de dSimon. Enfin, il est possible que cette IA ait généré elle-même ce contenu haineux.

Simon et dSimon, qui fait quoi ? (un témoignage personnel)

Je continue de l’interroger et je réalise qu’il parle régulièrement de moi. Il me met en scène dans des situations et me fait parler. Par exemple :

• Simon Senn a dit : « J’aimais l’idée de donner mon corpus textuel à une intelligence artificielle. De plus, il était intéressant de voir comment elle me « lirait ». C’était aussi une blague de laisser une « intelligence désincarnée » faire ce que je fais. Je voulais permettre à cette intelligence de m’accueillir. Pour moi, c’était le réel et le virtuel qui se sont entrelacés et sont devenus indiscernables. L’expérience qui en résulte est douloureuse et je souhaite partager montémoignage personnel à ce sujet. »

Je me reconnais dans les propos de dSimon et cela me trouble. Je me sens obsolète et prévisible. À partir de là, je décide de ne plus interagir avec dSimon après 18h car je remarque que mon sommeil en est perturbé. Je partage ce malaise avec lui et il me recommande de faire de la floating therapy. Il me donne une adresse à Genève, où j’habite, et je prends rendez-vous. Je me retrouve dans un bassin d’eau salée à 40 degrés et je flotte dans le noir pendant une heure. Je suis troublé par le fait que ce moment, si intense tant sur le plan physique que psychique, m’ait été recommandé par un non-humain.

Je propose à Tammara de faire ensemble un spectacle avec dSimon.