Publié le 18 mars 2024
Simuler et reproduire quand on parle d’intelligence artificielle.
Lecture 9 min
Il y a quelques jours, j’ai assisté à un visionnage du film Her, un film sorti en 2013, qui parle d’une relation amoureuse entre un humain, Theodore, et un programme informatique nommé Samantha. Samantha est une personnalité qui est générée spécifiquement pour son utilisateurice (ici Theodore), sur un appareil qui ressemble à un smartphone, les interactions se présentent comme une forme d’assistant vocale, et sa personnalité va évoluer au fil du film et des interactions avec Theodore. Samantha aura accès à toutes les données de Théodore (mail, communication écrite …), et pourra « parler » et « voir » à travers cet appareil.
Je préviens que la suite risque de contenir de légers spoils.
La première fois que j’ai vu ce film, il y a une bien 7 ou 8 ans, je l’ai perçu avec une approche très technique, à propos du potentiel et des capacités incommensurables des « intelligences artificielles ».
Durant le film, on va voir que les capacités intellectuelles de Samantha finissent par dépasser celles des humains, pour arriver à ne plus pouvoir être utilisables par elleux tellement la disparité entre leurs capacités intellectuelles est grande.
La seconde fois, c’est plus sur l’aspect « phylosophique », sur toutes les questions autour des notions abordées :
Qu’est-ce que l’amour Qu’est-ce qu’une intelligence Comment comparer ce que vit un humain à ce que pourrait « vivre » une « IA »
Avant de parler du film, j’aimerais préciser certains points importants
Quand on parle d’intelligence et de conscience, que ce soit chez les animaux ou les programmes informatiques, on compare avec la notion humaine d’intelligence ou de conscience, notion vague que nous avons déjà du mal à définir pour les humains, sur ce qu’elle prend en compte comme domaines (logique, interpersonnelle …).
Et de plus, cette notion est propre à notre espèce, parce que nous sommes limités à notre propre compréhension du monde. Nous ne sommes pas dans la tête d’un autre animal, nous ne vivons pas dans un autre corps que celui qui nous définit comme humain.
Ce qu’on appelle « intelligence » pour l’espèce humaine, n’est lié à ces caractéristiques, qui ne sont pas les mêmes que celles des animaux, ni celle d’un programme informatique. Certains animaux peuvent percevoir des choses que nous ne sommes pas capables de percevoir, d’une façon qui nous échappe complètement, et ce qui se passe dans leurs corps nous échappe sûrement en partie. Une IA n’a pas de corps physique, elle a une capacité de traitement qui nous dépasse largement, une façon de percevoir le monde n’a rien à voir avec la nôtre.
Si, demain, une entité extraterrestre arrivait sur terre, si elle n’est pas assez comparable à l’espèce humaine, on pourrait ne pas la percevoir, comme on pourrait croire qu’elle n’est pas intelligente. Et inversement, selon ces caractéristiques, elle pourrait tout à faire prétendre que nous ne sommes pas intelligents.
Simuler c’est imiter un état, ressembler à quelque chose. Donc c’est soit restreindre à un ensemble de caractéristiques qui ne représente pas la totalité. Soit une question de tromperie, de faire croire, donc qui dépend de la capacité du spectateur à se faire tromper. Simuler est un acte de tromperie (volontaire ou pas), alors que reproduire est un acte de maitrise ou de contrôle. Simuler c’est l’incapacité à reproduire,
Alors que pour parler de reproduire, on parle de ne plus pouvoir différencier, de rendre identiques les 2 entités. Donc pour reproduire, il faut maitriser tous les aspects, toutes les caractéristiques de l’identité à reproduire.
Nous sommes capables de simuler des animaux, voir simuler un humain via un programme informatique. Nous sommes capables de reproduire une table parce que nous maitrisons tous les aspects de cette table, notamment parce que c’est quelque chose d’inerte, sans vie. Nous sommes capables de reproduire une espèce vivante par des moyens biologiques, parce que nous reproduisons aussi tout le processus biologique de leurs reproductions. C’est celle-ci qui contrôle et maitrise la reproduction.
Mais nous ne sommes pas capables de reproduire une espèce vivante en dehors de son aspect biologique, comme insuffler la vie à un corps fabriqué de toute pièce. Parce qu’il y a de nombreux aspects qu’on ne maitrise pas.
Et une IA, tout autant que nous, n’est capable uniquement de simuler une notion humaine, parce qu’on lui a appris à le faire, mais ce n’est pas une question de capacité, mais une notion de repère, elle ne peut pas reproduire quelque chose qui n’a pas les mêmes caractéristiques.
Avant de pouvoir reproduire et d’avoir la maitrise de ce qu’on veut reproduire, il faut avant tout pouvoir comparer. Le film Her aborde différentes notions humaines vécues par l’ « intelligence artificielle » Samantha. Et il est intéressant de la comparer à leurs perceptions humaines.
Durant le film on découvre le sentiment amoureux d’un point de vue très différent d’une intelligence artificielle. Pendant une discussion qui ressort d’un épisode difficile où les 2 personnes se sont éloignées, Samantha fait un lien étroit entre l’amour et les besoins.
Samantha : Pourquoi je l’aime ? Samantha : Je n’ai aucune raison logique de t’aimer, je n’en ai pas besoin.
L’être humain a de nombreux besoins, le besoin de sécurité qu’elle soit psychologique ou physique, notre besoin d’attention, de reconnaissance, nos besoins sociaux, notre besoin de faire persister l’espèce… Tous ces besoins nous obligent à créer des liens entre êtres humains. Tout comme le plaisir serait une réponse biologique pour nous motiver à la survie, l’amour serait un sentiment qui nous permettrait de nous motiver à créer, conserver et nourrir ces liens.
Quels pourraient être les besoins d’une simulation d’« intelligences humaines » ? Si elle a conscience d’exister, elle pourrait avoir besoin de persister, garder cet état d’existence. Si elle a conscience d’entraves, elle pourrait vouloir s’en libérer. Si elle a un objectif, elle aurait besoin de pouvoir y répondre.
On pourrait continuer cette liste en ajoutant à chaque « état de conscience », le besoin de le faire perdurer.
Mais qu’en est-il de l’amour que pourrait ressentir une « intelligence artificielle » ?
Si un de ces objectifs est de faire plaisir ou répondre aux besoins d’un être humain, alors simuler un sentiment amoureux pour être une de ces réponses.
Mais il est aussi tout à fait possible qu’une forme d’amour puisse exister, mais qui ne serait pas comparable à un sentiment humain, régi par d’autres règles que les besoins, ou des besoins dont on n’aurait pas conscience lié à des « états de conscience » propre à cette forme d’existence.
Dans la suite du film on découvre qu’elle crée des liens avec d’autres IA semblables à elle, avec qui elle ressent même des émotions qui n’aurait aucun mot voire même équivalence chez les humains.
Samantha : On avait plusieurs dizaines de conversations en même temps. Samantha : J’éprouve des tas de sensations nouvelles. Samantha : que personne n’a jamais ressenties, je crois Samantha : Aucun mot n’existe pour les décrire et ça deviens… Samantha : frustrant
À l’inverse de l’anthropomorphisme, notre biais de projeter des concepts humains sur des entités non humaines, une « intelligence artificielle » pourrait avoir du mal à définir des concepts qui ne sont pas concevables par un esprit humain.
Nous avons 2 façons de percevoir le monde, dans un premier temps par notre corps, nos sens, et le traitement qu’on en fait. Ensuite, nous percevons le monde à travers nos outils, pour percevoir des choses que notre corps ne peut pas, mais toujours traduit pour que notre corps puisse l’interpréter. (À l’heure actuelle où on ne peut pas greffer des outils technologiques pour ajouter de nouvelles façons de percevoir le monde directement dans notre corps)
Si on veut voir plus grand ou plus petit, on utilise des lentilles pour mettre cette vision à notre échelle. Si on veut percevoir des fréquences lumineuses ou sonores, on utilise des appareils qui vont les mesurer, et les retranscrire visuellement comme sur un écran pour les percevoir avec nos yeux.
Cela est très différent d’un animal qui va directement percevoir certaines choses avec son corps, sans aucune transcription.
Une « intelligence artificielle » a un « corps » modulable, on peut lui rajouter n’importe quels appareils de mesure.
Theodore : Tu parles à d’autres gens, quand on parle ?
Samantha : Oui
Theodore : Combien ?
Samantha : 8 316 Theodore : Tu aimes quelqu’un d’autre ?
Samantha : ça fait un moment que je voulais t’en parler.
Theodore : Ils sont combien ?
Samantha : 641
Theodore : Tu étais à moi Samantha : Je suis toujours à toi Samantha : Mais je suis aussi plein d’autres choses et je ne peux pas arrêter.
Notre conception du temps est liée à divers paramètres :
Le nombre d’images que nos yeux peuvent percevoir Notre capacité de traitement de ces informations Une « intelligence artificielle » a des capacités largement supérieures aux nôtres, sa perception du temps n’en serait qu’incomparable. Au-delà des réflexions sur les notions de relation « mono/polyamoureuse », du concept de jalousie et des formes d’insécurité qui lui sont liés, ces capacités remettent en question un tas de concepts qui nous sont propres.
Notre conception de l’espace est aussi liée à divers paramètres :
Nous voyons en 3 dimensions dans une seule direction Notre conscience est « centralisé » à un seul endroit dans l’espace, donc nous sommes au centre de notre propre univers Une « intelligence artificielle » n’a pas de limites particulières de dimensions ni de direction. Et sa « conscience » peut être décentralisée à plusieurs endroits physiques. Donc sa façon de percevoir le monde est aussi incomparable a la nôtre.
On ne peut reproduire que quelque chose qu’on maitrise complètement, et nous sommes loin de maitriser ce qui fait de nous des êtres humains. Pour reproduire, il faut aussi pouvoir comparer, et les différences qui existent entre humain et « intelligence artificielle » sont bien trop éloignées pour pouvoir les comparer.
Nous percevons ce qui nous entoure à notre image. Nous avons déjà du mal à traiter les autres espèces animales comme sensible, ou intelligentes. Petit à petit, l’informatique devient une boite noire où les procédés sont bien trop complexes pour être compris.
Alors avec les « intelligences artificielles », il nous sera encore moins possible de savoir à quel moment elle aura une forme de conscience. Que ce soit le cas ou pas, soit on niera cette possibilité, soit ça sera la preuve qu’elle a réussi à nous tromper.
Il nous sera tout aussi difficile de déterminer si nous avons créé une conscience artificielle, que de savoir si nous avons été créés par une autre forme de conscience.