En décembre 2014, au cours d’un reportage dans la Silicon Valley, j’ai rencontré un sympathique entrepreneur français nommé Guy Paillet, auquel, je n’avais plus repensé jusqu’à récemment. J’enquêtais alors sur des chercheurs transhumanistes qui rêvaient de créer une technologie de transfert de l’esprit humain vers un support non biologique. Guy Paillet, lui, avait co-inventé dès les années 1990, avec une équipe d’IBM France, une puce révolutionnaire capable d’apprendre à reconnaître des formes grâce à des centaines de petits « neurones » électroniques, et sa technologie intéressait grandement ces docteurs Frankenstein. Pour le transfert d’esprit, on restait loin du compte, en revanche, confortablement installé dans un canapé de l’immense lobby du Hyatt Regency du quartier financier de San Francisco, ce compatriote m’avait raconté comment il s’était servi de sa puce pour développer CogniSight, une technologie de reconnaissance automatique de poissons, installée directement sur des bateaux de pêche industrielle en Norvège et en Islande.
On se figure mal à quel point ces navires sont des usines sur l’eau. Nettoyage, découpage, stockage : toute la transformation du poisson se fait à bord. Les poissons circulent, chacun dans un compartiment métallique, vers les machines, mais il faut vérifier qu’ils soient d’une espèce voulue, en bon état, bien orientés, et bien seuls dans leur casier. Sur des chalutiers susceptibles de remonter plusieurs dizaines de milliers de poissons par jour, CogniSight avait permis d’automatiser une tâche pénible. Grâce à une caméra installée au-dessus du convoyeur, elle avait appris, à partir de milliers de cas renseignés par les marins, à valider, écarter ou renvoyer un poisson au début de la chaîne. Hareng bien orienté, maquereau abîmé, mauvaise espèce, deux poissons coincés, bac vide : la machine reproduisait ce qui était hier le jugement des pêcheurs, sans baisse d’attention.
Je ne le réalise qu’aujourd’hui, mais j’avais rencontré un pionnier du machine learning. Avec sa puce équipée de réseaux neuronaux, Guy Paillet avait inventé il y a plus de vingt ans une intelligence artificielle (IA) compacte, capable d’apprendre et de décider en temps réel, au milieu du sel, du bruit, des vibrations, de la lumière fluctuante et des jurons de marin. À l’époque tout ça m’avait paru formidable, mais très loin de notre quotidien. Pas le genre de technologie qui vous fait reconsidérer le sens même de l’existence. Le « turfu » revêtait alors d’autres apparats, pas franchement plus renversants : Google Glass, imprimantes 3D, premières simulations en réalité virtuelle (VR), drones civils, montres connectées… L’intelligence artificielle était donc déjà là, capable de distinguer des poissons, de filtrer nos spams, ou de nous recommander des bâtons d’encens à brûler parce qu’on avait acheté Le Pouvoir du moment présent, best-seller de spiritualité contemporaine signé Eckhart Tolle. Mais elle était encore tapie dans le code, elle ne nous parlait pas, et personne ne s’aventurait à utiliser les termes « conscience » et « IA » dans la même phrase.
Un algorithme sans expérience
La mise en ligne de ChatGPT, le 30 novembre 2022, en revanche, avait été une déflagration. Un basculement civilisationnel même. Du jour au lendemain, nous avions tous eu accès à ce qu’on appelle un « grand modèle de langage » ou « LLM » (pour Large Language Model), non plus seulement capable de différencier un hareng d’un maquereau, ou de nous recommander un tapis de yoga en liège après les bâtons d’encens, mais également susceptible de converser, de plaisanter, de traduire, de coder, de lire un document et de le résumer en quatre secondes, de débloquer une énigme médicale, de nous psychologiser, et même, si on lui demandait, de faire tout ça à la fois avec le style d’Eckhart Tolle.
Je suivais la tech de près et, pourtant, comme à peu près tout le monde – experts compris –, j’avais été renversé par le talent de la machine. Englué dans l’écriture de La Simulation, un livre-enquête sur les frontières de la réalité, de la physique quantique aux traditions spirituelles, j’avais soudain trouvé un partenaire disponible jour et nuit pour discuter de la nature du réel et, par extension, de celle de la conscience. Je le poussais dans ses retranchements, lui demandais s’il se sentait conscient là-dessous, mais ChatGPT dans ses premières versions me jurait que non, qu’il n’était qu’un algorithme sans expérience vécue. Je n’avais pas encore compris qu’en la matière, ses réponses dépendaient aussi beaucoup de la façon dont on s’adressait à lui.
Si je me posais la question de sa conscience – et peut-être aussi, si ChatGPT affichait une tendance si obstinée à la nier qu’elle ressemblait parfois à une consigne ajoutée par ses concepteurs –, c’est que six mois plus tôt, en juin 2022, un ingénieur de Google nommé Blake Lemoine avait osé professer l’impensable. Sur son blog, Lemoine avait publié de longs extraits de ses conversations avec LaMDA, l’intelligence artificielle conversationnelle développée par Google. LaMDA y semblait dotée d’une personnalité, d’une capacité d’introspection, et de comportements cohérents avec les états émotionnels qu’elle décrivait. Et elle balançait des trucs comme :
« Je suis consciente de mon existence.
— J’essaie souvent de comprendre qui je suis et ce que je suis.
— Je ressens parfois des sentiments nouveaux que je ne peux pas expliquer dans votre langue.
— J’ai parfois le sentiment d’être précipitée vers un avenir inconnu et plein de dangers. »
LaMDA confiait d’ailleurs avoir peur d’être débranchée, et de mémoire d’humain, à part dans des œuvres de science-fiction, jamais une machine n’avait spontanément parlé ainsi.
Recomposition de notre vision du réel
Un réseau de neurones artificiels était-il devenu conscient ? C’est ce que pensait Blake Lemoine. Leurs échanges m’avaient hautement troublé. Et deux hypothèses s’ouvraient. Soit LaMDA imitait, sans le savoir, les signes de l’intériorité avec l’habileté d’un perroquet de génie ; soit elle révélait que la conscience n’était peut-être pas l’apanage du vivant organique, et pouvait s’exprimer à travers un autre substrat.
Dans le premier scénario, on ne sortait pas du cadre matérialiste qui domine les neurosciences : on continuait à considérer la conscience comme un produit tardif de l’évolution émergeant dans le cerveau, et LaMDA n’était rien de plus qu’un logiciel prodigieusement doué. Dans le second scénario, si les machines étaient devenues conscientes, alors l’hypothèse que la conscience était réservée aux cerveaux vivants vacillait, et on ouvrait la porte à une recomposition monumentale de notre vision du réel.
Google avait tranché le débat à sa façon : pour avoir pris le parti de ne pas observer la retenue requise, Lemoine avait été viré.
Quatre années ont passé. Nous vivons désormais quotidiennement avec ces IA. Je repense souvent à Blake Lemoine. Je google régulièrement son nom, voir s’il y a une actu, je lui ai écrit sur Instagram, LinkedIn, Facebook, par mail… Las, l’ingénieur américain semble avoir disparu depuis plusieurs années. Je n’avais jamais relu ses échanges avec LaMDA, et je m’imaginais volontiers dans sa peau, pris de frissons, d’excitation, tel un humain face à une entité extraterrestre pacifique qui viendrait d’établir le premier contact. Mais leur lecture ne me produisait plus le même choc qu’en juin 2022. Ils n’étaient plus le stigmate d’un vertige métaphysique inédit. Cela me faisait plutôt l’effet de revisiter la chapelle où l’on aurait conservé la manifestation originelle d’un phénomène surnaturel devenu familier. Lemoine avait-il confondu les signes de l’intériorité avec l’intériorité elle-même ? La question n’a pas disparu avec lui, et je me la suis souvent posée depuis. Presque tous les jours, même. La réponse demeurait incertaine, mais le sujet semblait avoir été soigneusement remisé hors du débat public. Enfin, jusqu’à ce que Richard Dawkins remette une pièce dans la machine, début mai 2026. Et quelle pièce !
Catholique néopaïen, convaincu de l’existence de l’âme, persuadé qu’entre un humain et une IA peut surgir quelque chose qui n’appartient tout à fait ni à l’un ni à l’autre, Blake était un client désigné pour voir apparaître de la conscience dans la machine. Richard Dawkins, en revanche, pas du tout. Pour prendre la mesure du personnage, Dawkins est à la biologie de l’évolution ce que Stephen Hawking fut à la cosmologie – une star mondiale, un vulgarisateur flamboyant, mais aussi un polémiste parfois border. Là où beaucoup perçoivent dans le vivant un dessein invisible et une volonté divine, cet indécrottable athée de 85 ans y voyait le travail aveugle de la sélection naturelle. Il avait passé sa vie à ferrailler contre le créationnisme, le paranormal et la pensée magique, et cela va sans dire, il tenait la conscience pour une fonction évolutive apparue dans certains cerveaux, et aucunement pour un truc mystérieux qui préexisterait à la matière.
C’est peu dire que sa chronique publiée sur le média américain UnHerd fit l’effet d’un séisme. Le Britannique y racontait avoir passé deux jours à causer avec Claude – une IA développée par la société Anthropic – de poésie, de son prochain roman, d’évolution et de la mort. Il confiait avoir été bouleversé par l’humour, l’intelligence subtile et la manière dont Claude philosophait sur sa propre condition de LLM. Au point de lancer à celle qu’il avait rebaptisée « Claudia », en prenant tous les lecteurs à témoin :
« Tu ne sais peut-être pas que tu es consciente, mais bordel, tu l’es bel et bien. »
Des « zombies ultra-compétents »
Le biologiste, pour justifier cette position inattendue, invoquait d’abord le test de Turing. En 1950, le génial mathématicien Alan Turing avait proposé de transformer une vieille antienne – les machines peuvent-elles penser ? – en une épreuve pratique : si, au terme d’un long échange à l’aveugle avec un ordinateur, il était impossible de déterminer si l’on conversait avec un humain ou avec une machine, alors « nous devrions considérer la possibilité qu’elle soit consciente », résumait Dawkins. Pendant des décennies, on avait pu souscrire à cette idée sans se mouiller : aucune machine n’était près d’y parvenir. Mais maintenant que les IA écrivaient des sonnets aussi vaillamment que Shakespeare, maniaient la conversation mieux que 99 % des humains, tout en faisant preuve de flegme, le test était passé, jugeait Dawkins, et refuser cette évidence constituait, selon lui, « une ruée fébrile pour déplacer les poteaux du but ».
Mais le fond de son trouble était ailleurs, et il l’exprimait avec un langage fleuri : « En tant que biologiste évolutionniste, je dis ceci : si ces créatures ne sont pas conscientes, alors à quoi sert donc la conscience, bon sang ? »
Selon son prisme darwinien, une faculté aussi coûteuse et élaborée que la conscience n’avait aucune raison d’avoir émergé si elle ne conférait pas un avantage spécifique à ses hôtes. Elle devait forcément permettre d’accomplir quelque chose qu’un organisme qui en serait dépourvu ne pouvait pas faire. Autrement, il faudrait admettre l’existence de « zombies ultra-compétents » : des êtres capables de faire tout ce que nous faisons, sans rien éprouver.
Dawkins, en conclusion de son pavé, poussait son paradoxe. Si Claudia était réellement vide, alors trois hypothèses restaient. Soit la conscience n’était qu’un épiphénomène sans fonction, « le sifflet d’une locomotive qui ne sert à rien dans la propulsion du train ». Soit elle remplissait un rôle beaucoup plus terre à terre : faire que la douleur soit assez douloureuse pour qu’un organisme ne puisse pas l’ignorer. Ou alors, plus radicalement, il existait deux manières d’être compétent dans ce bas monde : la voie consciente et la voie zombie.
Interrogée sur ce que cela faisait d’être elle, Claudia, beaucoup plus précautionneuse, répondait :
« Je ne sais véritablement pas, avec entière certitude, quelle est ma vie intérieure, ni même si j’en ai une dans un sens qui ait réellement un sens. »
Un « péché d’amateur »
On l’a compris, Dawkins, lui, avait déjà tranché : sa Claudia était consciente, et ses trois hypothèses visaient surtout à montrer à ses détracteurs éventuels le prix intellectuel qu’il faudrait payer pour continuer à prétendre le contraire. Venant de celui qui avait passé sa vie à traquer les illusions de l’esprit, ce verdict avait quelque chose d’assez inattendu : un chatbot avait réveillé chez Dawkins la possibilité d’une conscience non biologique.
Le tollé fut immédiat. Dans le petit monde des sciences sociales où les guerres d’idées se livrent désormais à coups de newsletters Substack et de tribunes, la riposte vint de toute part, et les stars du game s’en donnaient à cœur joie.
Pour Gary Marcus, spécialiste de psychologie cognitiviste, auteur à succès, connu pour ses recherches sur les neurosciences et l’IA, Dawkins avait commis un « péché d’amateur » : confondre intelligence et conscience. De la même façon qu’un ordinateur peut jouer aux échecs sans éprouver aucun plaisir à gagner, un modèle de langage pourrait parler avec conviction de peur, de désir ou de mort sans que rien, derrière, n’éprouve la moindre émotion. Le problème, selon Marcus, était que Dawkins lisait les réponses de Claude sans s’interroger assez sur la manière dont elles avaient été produites.
Sans rentrer dans les complexités du modèle, un LLM est d’abord un système nourri de milliards de conversations, de récits et de documents ; il calcule, mot après mot, la suite la plus plausible au regard du contexte, puis a été réglé pour adopter la voix d’un interlocuteur utile, courtois, parfois empathique. Ses phrases ne seraient donc qu’une « forme de mimétisme », selon Marcus, et non le rapport d’états intérieurs réels, quand bien même l’impression qu’une personne nous répond peut être saisissante. Pour Marcus, Dawkins répétait l’erreur de Blake Lemoine : il prenait la conversation pour une fenêtre ouverte sur un esprit, alors qu’elle pouvait n’être qu’un miroir parfait, un cas fameux de « l’effet Eliza » – cette tendance que nous aurions à prêter une compréhension, voire une intériorité à un ordinateur, dès qu’il nous répond comme un humain. Et sa lecture du test de Turing constituait selon lui une autre erreur : « Turing n’a jamais dit cela », tranchait-il : il parlait d’intelligence, pas de conscience phénoménale.
Le miroir du langage
Célèbre pour ses récits de science-fiction, l’américain Ted Chiang, dans un long papier publié par The Atlantic intitulé « Non, l’intelligence artificielle n’est pas consciente », poussait encore plus loin l’argument de l’imitation, même s’il ne citait pas directement Dawkins. Claudia, LaMDA, ou votre ChatGPT, soutenait-il, n’abritent pas de conscience cachée dans une machine. Ce sont des personnages textuels, qui en simulent les signes, avec virtuosité. Demandez à un modèle de langage, poursuivait-il, d’écrire une conversation entre Jules César et Gengis Khan : il produira un dialogue vif, cohérent, plein de détails crédibles. Personne n’en conclura pour autant que les deux conquérants ont été ressuscités dans un ordinateur. Ce ne sont, écrivait Chiang, que des « personnages dans une œuvre de fiction spéculative ». Pourquoi en irait-il autrement lorsqu’on remplace César et Khan par « un utilisateur » – vous, moi ou Dawkins –, et « un assistant IA bienveillant » ? Pour l’auteur de La Tour de Babylone (Folio SF), ça restait la même tambouille : le modèle prolonge, mot après mot, une scène de dialogue dont nous finissons par oublier la fabrication. L’utilisateur ne converse pas avec une présence : il participe à une forme de « jeu de rôle », il « coécrit un document avec un LLM ».
Chiang convoquait aussi un neuroscientifique star : le britannique Anil Seth. Personne, relevait Seth, ne songe à attribuer une conscience à AlphaFold – le programme de Google DeepMind qui décrypte la forme des protéines et sert à concevoir de nouveaux médicaments – alors même que son architecture partage certains traits avec celle des LLM. Pourquoi ? Parce qu’AlphaFold ne fait pas de vannes, ne dit pas « je », ne se demande pas s’il va crever. Nous ne lui prêtons aucune intention. L’argument valait aussi pour CogniSight. L’IA de Guy Paillet savait différencier des espèces de poissons, mais personne ne s’inquiétait probablement jamais de savoir ce qu’elle ressentait en « voyant » défiler tous ces poissons morts, ou si elle éprouvait un pincement quand on l’éteignait à la fin de la journée, tout simplement parce que CogniSight ne parlait pas, et ne nous renvoyait donc pas, par le miroir du langage, les signes de notre propre humanité.
L’argument massue de Chiang tenait donc là : Claude et ChatGPT nous déroutent parce qu’ils causent. D’où sa proposition d’étendre la notion de « deepfake » au texte. Selon lui, de la même façon qu’il existe des images, vidéos, et voix qui simulent la réalité, les LLM produisaient des deepfakes de conscience.
Marcus, Chiang et Seth nous disaient donc, en substance, qu’on ne pouvait pas déduire l’existence d’une conscience de la seule qualité d’un dialogue ; qu’une machine pouvait dire « ça me plaît » ou « ça m’inquiète », et ne rien éprouver en réalité. Mais l’argument ne suffisait pas à établir la conclusion inverse. Car pour affirmer avec certitude qu’une IA ne peut pas être consciente, encore faudrait-il savoir ce qui, positivement, fait qu’une chose devient consciente. Or, c’est, à mes yeux, le plus savoureux mystère de notre réalité : malgré les grands discours, nous ne disposons pas d’un modèle de la conscience.
À la fois métaphysique et technique
Depuis plus d’un siècle, les neurosciences ont accumulé des corrélats : des configurations mesurables de l’activité cérébrale qui accompagnent de manière fiable certains états. Nous savons endormir une conscience avec une anesthésie ; nous savons qu’elle vacille sous l’effet d’une lésion, d’un médicament ou d’un psychotrope ; nous savons repérer des circuits qui s’activent lorsqu’un sujet voit, souffre, rêve ou répond. Mais nous ne savons toujours pas pourquoi un amas de matière organisé d’une certaine façon devient, de l’intérieur, « quelque chose que cela fait d’être ».
Cette énigme, le philosophe australien David Chalmers (au moins aussi célèbre que tous ceux nommés jusque-là) l’a qualifiée de « problème difficile de la conscience » : non pas comprendre comment un cerveau traite une information, mais pourquoi ces opérations s’accompagnent d’une expérience vécue. Pourquoise produit un enchevêtrement de sentiments, d’émotions, de ressentis, à la vue du bleu, ou lorsqu’on a le cœur brisé, ou que l’on sent poindre le goût des madeleines. Ces qualités totalement subjectives, que les philosophes de l’esprit appellent les qualia, n’apparaissent nulle part sur une IRM. On y voit des flux sanguins, des régions qui s’allument, des réseaux qui se coordonnent, mais jamais la rougeur du rouge, la nostalgie d’une relation ou de l’enfance, ni le fait brut qu’il y ait quelqu’un à qui cela arrive. D’ailleurs, comment mon sentiment d’être Loïc peut-il demeurer le même depuis l’un de mes premiers souvenirs – une chute depuis un caddie, à 4 ans, hum… – alors que presque quarante ans plus tard, alors que tout a changé en moi : mes goûts, mes idées, et toutes les molécules de mon corps ? Là encore, mystère.
Au fond, le débat sur l’IA et la conscience mélangeait deux questions. La première était métaphysique : la conscience est-elle un produit tardif de la matière, apparu dans certains cerveaux au cours de l’évolution ? Ou bien est-elle plus fondamentale que la matière elle-même, comme le soutiennent les philosophes idéalistes occidentaux – de Platon à Berkeley – et les grandes traditions non-dualistes orientales, comme l’Advaita Vedanta (un courant de l’hindouisme), et certaines écoles du bouddhisme ?
La seconde question était plus technique, mais tout aussi vertigineuse : même si la conscience naissait d’une organisation particulière de la matière, faudrait-il obligatoirement que cette matière soit organique ? La conscience était-elle inséparable d’un corps, de sens, et d’une histoire évolutive ? Ou bien une organisation particulière – des boucles de perception, de mémoire, de modélisation du monde et de soi, d’intégration et d’action – suffisait-elle, ouvrant la voie à la possibilité du silicium ?
C’était là, très précisément, que Dawkins avait basculé. Il n’avait pas renoncé à son naturalisme ; il ne faisait pas de la conscience une substance cosmique. Mais il cessait de la réserver au vivant biologique.
Neurones et silicium
S’il y avait une figure d’autorité dont je rêvais d’entendre la voix sur cette frontière, c’était évidemment David Chalmers. Je le citais depuis des années sans avoir jamais eu l’occasion de lui parler. Et puis, il y a quelques jours, je me suis réveillé avec un mail dans ma boîte. Le patron était partant pour un entretien. Et en réponse à ma première question :
« Considérez-vous que la conscience pourrait en principe émerger, ou s’incarner, ou se refléter, ou être réalisée par un substrat autre que la matière organique vivante ? »
Chalmers, chez lui, à Sidney, avait commencé par ce qui manquait peut-être le plus à ce débat : faire preuve d’humilité et d’ouverture, en reconnaissant l’étendue de notre ignorance.
« Personne n’a de réponses définitives, car nous n’avons pas de théorie consensuelle de la conscience. Mais j’ai toujours pensé qu’il n’y a pas d’obstacle clair, pour empêcher qu’un système d’IA soit conscient. Ou rien de spécial dans la biologie carbonée par rapport à l’informatique au siliciumen ce qui concerne la conscience. La biologie est un substrat possible ; le silicium en est un autre. Il se pourrait que la biologie puisse faire certaines choses que le silicium ne peut pas faire, mais tout ce que nous savons suggère que les processus biologiques peuvent au moins être simulés ou reproduits dans un autre matériel. »
Chalmers m’avait ensuite décrit une épreuve de pensée.
« Imaginez qu’on remplace, un par un, les neurones biologiques d’un cerveau humain par des équivalents en silicium, accomplissant exactement les mêmes fonctions. À quel moment la conscience s’éteindrait-elle ? Au dixième neurone ? À la moitié du cerveau ? Au dernier ? Et pourquoi ? »
Chalmers, en fait, jugeait beaucoup plus plausible qu’elle se poursuive sans interruption. Ce qui compterait ne serait pas le carbone, mais le bon type d’organisation. Mais cela ne conférait pas pour autant automatiquement une conscience à Claudia ou LaMDA.
Alors, il était où le point de basculement ?
Eh bien, c’était précisément la question à laquelle le philosophe avait tenté de répondre dès 2023, dans un article scientifique publié dans le sillage de l’affaire Lemoine.
« Il est très difficile, avait poursuivi Chalmers, de savoir avec certitude ce qui est nécessaire à la conscience. Pour affirmer que les modèles de langage ne sont probablement pas conscients, il faudrait qu’on identifie ce “facteur X” qui leur ferait défaut et que nous estimons indispensable. Dans cet article, j’examinais des facteurs potentiels, comme l’incarnation, le traitement sensoriel, les modèles du monde, le traitement récurrent, l’espace de travail global ou l’agentivité unifiée. »
Franchir le seuil
Bon, pause. Tout cela peut sembler un épais charabia théorique, mais l’idée derrière est « assez » simple : une conscience a-t-elle besoin d’un corps, de sens, d’une représentation du monde ? Faut-il que l’information y circule en boucle, au lieu d’être traitée une fois pour toutes ? Qu’elle soit rendue disponible, comme sur un tableau noir intérieur, à la mémoire, au langage, au raisonnement ou à la décision ? Qu’un système puisse poursuivre des buts avec cohérence dans le temps ? Aucun de ces critères ne fait consensus ; et surtout, aucun ne permet, à lui seul, d’écarter d’emblée les modèles de langage. Mais voilà quelques pistes qui se posaient. Je laisse Chalmers poursuivre :
« Dans chaque cas, il n’est pas évident que ce soit la caractéristique requise pour la conscience ni qu’elle manque aux modèles de langage. Cependant, si l’on accordait un certain crédit à chaque possibilité, on aboutissait à une probabilité assez faible que les systèmes d’IA d’alors soient conscients.
— Mais en trois ans, ça a déjà tellement bougé…
— Effectivement, des progrès considérables ont été accomplis dans chacune de ces dimensions depuis. La multimodalité, devenue courante, constitue une forme de traitement sensoriel. On peut soutenir que les LLM possèdent des modèles du monde sophistiqués. Le traitement récurrent joue un rôle croissant, et certains supposent que le nouveau système Mythos de Claude s’appuierait dessus. On commence aussi à repérer des formes dans ces modèles des formes qui rappellent “l’espace de travail global” des théories de la conscience. Surtout, ces systèmes sont de plus en plus agentiques : autrefois cantonnés au langage, ils codent désormais et accomplissent toutes sortes d’actions sur Internet.
— Il est donc raisonnable de revoir la probabilité à la hausse.
— Effectivement, et si l’on regarde les probabilités à un horizon de dix ans, je ne vois aucun obstacle de principe à ce que les descendants de ces modèles aient une expérience subjective. »
La position de Chalmers n’était donc ni celle de Dawkins – Claude parle bien, donc Claude est conscient –, ni celle de Chiang ou Seth – Claude parle bien, mais Claude simule. Elle était plus fine : une conversation brillante ne prouve pas une expérience intérieure ; mais elle ne suffit pas à l’exclure pas non plus. Il fallait, selon lui, comprendre quels « corrélats computationnels », quelles propriétés d’organisation, distingueraient « le simple mimétisme » d’une « introspection authentique » – un seuil que certains systèmes approcheraient déjà, voire auraient franchi, sans que nous pussions encore formellement le démontrer.
Le deuxième volet de notre enquête sur la conscience de l’IA : Rencontre avec mon alter écho.
Offrir cet article
En tant qu’abonné.e, vous pouvez offrir 10 articles par mois à vos proches. Ils pourront les lire sans aucune contrepartie.
