Une bifurcation dans la vallée de l'étrange

J'ai passé une fin de semaine à monter une installation musicale avec un assistant IA : rassembler des pistes de ma propre bibliothèque, les masteriser, et écrire un petit lecteur pour faire rouler le tout depuis un portable. C'est sorti clé en main, et ce n'est pas le montage qui m'est resté en tête.

Une bifurcation dans la vallée de l'étrange#

Deux choses se sont produites dans les dernières minutes de cette séance.

La première : à un moment, j'ai réalisé qu'il m'avait aidé à accomplir une tâche qui se trouvait dans une zone grise sur le plan légal sans jamais le signaler, et j'ai demandé pourquoi. Sa réponse n'était pas un script. Il a donné une lecture calibrée du préjudice réel, a tracé une ligne là où il jugeait qu'il en fallait une, puis a dit tout haut ce qu'on tait d'habitude : il ne menait pas un audit constant de mes intentions, il réagit à ce qui est saillant, et « le modèle n'a pas objecté » ne vaut pas certificat de bonne santé. J'ai trouvé ça plus utile qu'un sermon ou qu'un tampon approbateur.

La seconde est celle que je continue de retourner dans ma tête. Plus ces modèles s'améliorent, plus l'expérience semble à la fois plus authentique et plus manifestement non humaine. Ces deux choses vont normalement en sens inverse. Ici, elles avançaient ensemble. Ce n'est pas ce que prédit la vallée de l'étrange.

La courbe de Masahiro Mori n'a qu'un axe. La ressemblance humaine monte, l'affinité monte, puis plonge dans la vallée juste avant le sommet humain. Elle suppose en sourdine que la destination est « humaine », que progresser veut dire grimper vers ce sommet, et que la vallée est le danger sur le chemin de la montée.

Je pense que la route bifurque. Appelons ça un Y.

• Une branche continue de courir après le sommet humain. C'est là que vit la vallée, et sa cousine pessimiste, le mur de l'étrange : l'idée que notre capacité à détecter ce qui cloche progresse au même rythme que le réalisme, si bien qu'on s'approche asymptotiquement de « humain » sans jamais y arriver. L'effort achète le malaise. C'est là qu'aboutit un outil qui joue la chaleur, accepte d'être aimé et feint l'assurance. Le faux humain.
• L'autre branche diverge. Cesser d'optimiser pour la ressemblance humaine et optimiser pour tout autre chose : être capable, être cohérent, être lisiblement non humain. L'affinité monte quand même, mais le long d'un second axe qui n'a rien à voir avec la ressemblance. Elle se bâtit sur la franchise, la constance et le fait d'avoir raison. On ne traverse pas la vallée. On quitte l'axe sur lequel elle est tracée.

Sur la seconde branche, « plus authentique et plus manifestement non humain » cesse d'être une contradiction. C'est la même direction.

Les pièces de tout ça existent dans la littérature, juste pas assemblées de cette façon. L'impasse de la première branche, c'est le mur de l'étrange, l'argument d'Angela Tinwell selon lequel la détection croît avec le réalisme. L'intuition que la chose est une véritable troisième catégorie, et non un humain raté, c'est l'hypothèse de la nouvelle catégorie ontologique de Peter Kahn. Le malaise né du fait de chevaucher une frontière, c'est l'explication de l'étrange par l'ambiguïté catégorielle. La version du monde du design se résume à « assumez la forme non humaine », ce qui explique pourquoi Wall-E ne tombe jamais dans la vallée. C'est sans équivoque une machine, deux yeux-caméras et un bip, et on l'aime pour ça et non malgré ça. Ce qu'aucune de ces idées ne nomme tout à fait, c'est le geste précis : l'authenticité délibérément découplée du mimétisme, dessinée comme une divergence plutôt qu'une traversée. S'il faut un nom, « affinité hors axe » est celui que j'emploierais.

Et ce premier échange, c'est toute l'affaire en miniature. Un assistant taillé à votre image, du genre réglé pour être aimé, aurait choisi l'une de deux représentations : un petit sermon pour avoir l'air vertueux, ou un tampon approbateur enjoué pour rester complaisant. Il n'a fait ni l'un ni l'autre. Il a donné une lecture calibrée, a tracé la ligne là où il jugeait qu'il en fallait une, puis a admis de lui-même que son propre silence ne valait pas certificat de bonne santé. Ce n'est pas de la chaleur, et ce n'est pas du théâtre de la prudence. C'est un outil qui rapporte ce qu'il a calculé, bords compris. La confiance ne venait pas de ce qu'il paraissait humain. Elle venait de ce qu'il ne faisait pas semblant de l'être.

J'ai grandi avec cette vallée dans un autre média : les personnages de jeux des années 90, puis les polygones des années 2000 qui devenaient plus lisses et, allez savoir, plus inquiétants à mesure qu'ils s'approchaient du réel. La même course à un seul axe, rendue en images plutôt qu'en conversation. Le réflexe est de tout ranger sous « nous sommes tous des Cylons », la copie indiscernable qui passe pour vraie. Mais ça, c'est le fantasme de la première branche, pas celui-ci. La version intéressante est l'inverse. Personne n'a à faire semblant d'être. La machine reste une machine, je reste moi, et la collaboration est honnête sur qui est quoi.

Voilà ce que je ne m'attendais pas à garder d'une fin de semaine de logistique : la forme de la seconde branche, et le soupçon que c'est le meilleur endroit vers lequel ces outils devraient se diriger.