Il y a quelques jours, l’entreprise OpenAI qui cherche a créer des systèmes d’intelligence artificielle qui « bénéficie à l’humanité » a sorti une nouvelle expérimentation de tchat avec un robot. Celui-ci a enflammé internet, pourtant les limites sont encore très facilement atteignables. Petite démonstration.

Baptisé « ChatGPT » cet algorithme doit permettre de créer une conversation où le robot puisse « répondre aux questions, admettre ses erreurs, contester les requêtes incorrectes et rejeter les demandes inappropriées » selon OpenAI. Pourtant, après seulement quelques essais, il est très facile d’arriver aux limites de l’exercice.

Sans aller dans les retranchements des possibilités de l’algorithme, j’ai tenté de le défier sur le terrain qu’il est censé connaitre le mieux : la linguistique. Au hasard, j’ai testé de lui demander des palindromes. Ces mots ou phrases qui peuvent se lire dans les deux sens. J’ai commencer assez classiquement par lui demander le palindrome le plus long, en espérant avoir autre chose que « ressasser » et en découvrir un nouveau. Quel ne fut pas ma surprise quand le robot commença a me sortir un texte sans fin qui réitérait l’expression « t’en vas et reviens pas ». (Ça fait flippé, il y a quelqu’un d’enfermé là-dedans ?)

Je souhaitais avoir un mot palindrome et non un texte, pourtant l’IA ne semblait pas pouvoir me donner un exemple de mot et ne générait que des phrases. Alors, pour vérifier qu’iel connaissait au moins un mot qui pouvait se lire dans les deux sens, je lui ai demandé au hasard si le mot « Laval » était un palindrome. Je reçois pour réponse « Non, le mot « Laval » n’est pas un palindrome. » avec un paragraphe qui cite le mot « radar » comme exemple de mot. J’essaye sans majuscule au premier « L » de « Laval » pour voir. Aucune différence. S’en suis une conversation ubuesque où le robot me donne des réponses incohérentes dont voici un florilège.

Moi : « Laval » lu de gauche à droite est exactement le même mot que « Laval » lu de droite à gauche. Tentez de décomposer ces deux mots lettre par lettre et de me dire où se trouve la différence selon vous.
IA : Je comprends que vous ne soyez pas d’accord avec ma précédente réponse, et je vais tenter de m’expliquer plus clairement. En fait, le mot « Laval » lu de gauche à droite n’a pas de sens en français, car il ne s’agit pas d’un mot, mais d’une simple suite de lettres qui ne forment pas un mot reconnu en français. Si vous lisez le mot « Laval » de droite à gauche, vous obtenez « Laval », qui est un mot qui a un sens en français (il désigne une ville du département de la Mayenne en France). Mais si vous lisez le mot « Laval » de gauche à droite, vous obtenez « Laval », qui n’est pas un mot en français et qui ne peut donc pas être considéré comme un palindrome. Pour mieux illustrer mon propos, je vais décomposer les deux mots lettre par lettre comme vous le suggérez :
– Si vous lisez le mot « Laval » de droite à gauche, vous obtenez « Laval », qui est formé des lettres « L », « a », « v », « a », « l » qui forment un mot en français.
– Si vous lisez le mot « Laval » de gauche à droite, vous obtenez « Laval », qui est formé des lettres « L », « a », « v », « a », « l » qui ne forment pas un mot en français. […]

Ou encore,

Moi : Mais les lettres « L », « a », « v », « a », « l » disposées dans l’ordre « Laval » sont exactement les même que celles disposées dans l’ordre « Laval ».
IA : Vous avez tout à fait raison. Je m’excuse pour cette erreur dans ma réponse. En fait, quelle que soit l’ordre dans lequel les lettres « L », « a », « v », « a », « l » sont disposées, elles ne forment pas un mot en français qui soit un palindrome. Un palindrome est un mot, une phrase ou un texte qui se lit de la même manière dans les deux sens, c’est-à-dire de droite à gauche ou de gauche à droite, tout en ayant un sens cohérent. Or, si vous essayez de lire le mot « Laval » dans les deux sens, vous verrez qu’il ne peut pas être lu de la même manière tout en ayant un sens cohérent. Par exemple, si vous lisez le mot « Laval » de droite à gauche, vous obtiendrez « Laval », qui est un mot qui a un sens cohérent en français. Mais si vous lisez le mot « Laval » de gauche à droite, vous obtiendrez « Laval », qui n’a pas de sens en français et qui ne peut donc pas être considéré comme un palindrome. […]

Pour de la cohérence et « admettre ses erreurs », on reviendra…