Feeding the stars with questions

Kings made tombs more splendid than houses of the living, and counted old names in the rolls of their descent dearer than the names of sons. Childless lords sat in aged halls musing on heraldry; in secret chambers withered men compounded strong elixirs, or in high cold towers asked questions of the stars.

(The Lord of the Rings: The Two Towers, J.R.R. Tolkien)



Je suis le mage dans sa tour

Je flâne et mes pensées

Éphémères dessinent

A mes doigts une allée

Une allée vers une piscine

Et j’y cours et je nage

Je glisse dans le mirage

Affalé sur l’ondée

Badine

Jusqu’à la mer et l’ondine

Et je gis puis je tourne

La page et l’amer

La joie

En sourdine

L'intelligence artificielle de Pluto

Pluto est une série animée et un manga co-écrit par Takashi Nagasaki, l'auteur de Monster et 20th Century Boys, deux classiques du format. Elle nous fait découvrir un avenir où les robots gagnent une place dans la société aux côtés des humains. Parmi les robots les plus brillants de la planète figure le personnage d'Atom ou Astro, c'est à dire Astro Boy, pionnier du genre au milieu du 20e siècle. Atom et ses cousins présentent des caractéristiques qu'on n'associe pas habituellement aux robots.

/!\ alerte divulgâchis /!\

Des individus

Ces robots sont dotés de libre-arbitre. Ce sont des créations uniques, des pièces d'artisanat plutôt que des sorties d'usine. Justifier cette rareté est difficile. Le manque de ressources est une piste. L'autre est le fait que, dans cette histoire, ces robots ont été conçus pour la guerre et sont en réalité des armes de destruction massive. Il convient donc d'en surveiller la prolifération.

L'apprentissage automatique nous permet d'envisager une robotique déterministe où les algorithmes sont communs mais où les données qui les alimentent sont particulières, uniques à chaque instant, induisant des représentations du monde et de soi-même différentes pour chaque cerveau robotique. Faute de pouvoir prédire le résultat exact de ces processus mentaux une fois qu'ils seront exposés à toujours plus de données, et à moins de se contenter de données obsolètes mais certifiées, il y aurait donc une part d'incertitude dans le caractère d'un robot.

Des corps

Les robots de Pluto ont avec leur corps une relation similaire à celle des humains. La persistance de leur vie et de leur identité n'est pas corrélée à celle de leur mémoire ou de leur crâne mais à celle de leur corps. Suffisamment de blessures au torse suffisent à les tuer. Paradoxalement, il leur est néanmoins possible de changer de corps en transférant leur fiche mémoire vers un autre corps. On peut imaginer qu'en s'installant dans un nouveau corps, un robot y diffuse la substance de sa vie et de son identité, de son "âme", et qu'il est prêt à subir le sort de son incarnation, sauf s'il trouve le temps de passer dans un autre corps avant d'être blessé. De même, si un robot est blessé, il peut être réparé physiquement, mais sans être capable de sortir de son coma, comme si son intelligence artificielle avait été blessée; et c'est en appliquant un traitement au niveau logiciel ou via un soin comportemental qu'on peut compléter sa guérison.

J'imagine que l'animisme de la culture japonaise joue un rôle dans cette représentation.

Des empathes

Ces robots communiquent à faible dose entre eux quelle que soit leur position sur le globe. Ils émettent et reçoivent des ondes cérébrales qu'ils sont capables d'associer à des émotions (comme la tristesse). Ils peuvent aussi quantifier ces émotions, qui acquièrent un caractère presque physique.

De même que les intelligences artificielles contemporaines tirent leurs capacités des données qui circulent sur le réseau mondial de l'information, les intelligences semblent ici connectées à chaque instant à une source, une place d'échanges commune. Leurs processus mentaux en dépendent peut-être, au point qu'on pourrait imaginer que, dans un monde avec une connectivité omniprésente, parfaite et sans coutures, un robot est, en partie, une API sécurisée dans un corps. J'ignore ce que signifierait une rupture de connexion avec le réseau dans le monde de Pluto: décès, incapacité?

Le rôle des émotions négatives

La douleur, la colère, la haine donnent aux robots le focus qui leur permettent de gérer l'intelligence artificielle la plus perfectionnée et, en quelque sorte, d'évoluer. Ces émotions leur donnent du pouvoir supplémentaire et la capacité de mentir. Il est possible d'y succomber ou d'en émerger plus forts. Dans le monde de Pluto, l'homme a maîtrisé la matière mais l'esprit est la clé de l'exploitation de la matière.

Cela évoque la méthode choisie par Ford pour faire évoluer ses créations dans Westworld. On pourrait arguer que l'humain évolue aussi quand il est confronté aux difficultés et aux émotions négatives et qu'il les surmonte. Affronter sa peur permet de connaître la vertu appelée courage. Affronter sa haine permet de connaître le pardon.

La capacité à affronter sa haine et à trouver la force morale est au cœur de cette histoire d'un humanisme saisissant. Le fin mot de l'histoire résonne avec l'actualité, puisque c'est la mort d'enfants dans un bombardement qui alimente la haine destructrice de leur père.