Un robot peut-il être conscient ?

par J. Kevin O’Regan, Directeur du Laboratoire de Psychologie de la Perception de l’Université Paris Descartes (UMR 8158 Paris Descartes - CNRS)

Nous avons tous l’impression d’être conscients. Nous ne sommes pas de simples automates poursuivant nos activités quotidiennes — chacun d’entre nous a comme un ’pilote dans l’avion’, et ce pilote est notre "je". Ce "je" a l’intime conviction d’exister, d’avoir une volonté, d’être le possesseur de ses propres désirs et de ses buts, et de sentir des sensations dont lui seul est le sujet.

Comment expliquer ce phénomène ? Comment est il engendré dans le cerveau ? Pourrait-on l’incorporer dans un robot ?

Le problème de la conscience occupe une place importante dans les recherches actuelles en neurosciences et sciences cognitives. Beaucoup de chercheurs pensent que comparé au fonctionnement cérébral des animaux, il y a quelque chose de spécial qui émerge dans le fonctionnement neuronal humain. On suppose que passé un seuil de complexité, d’interactivité ou de connectivité, la conscience émerge comme phénomène qualitativement nouveau. Mais comment ? Au cours des vingt dernières années, de multiples hypothèses plus ou moins extravagantes ont été entretenues par les chercheurs : il y a par exemple l’idée des réverbérations thalamo-corticales, des oscillations synchronisées à travers de larges aires du cortex, et même l’idée d’un rôle de la cohérence quantique dans les microtubules des neurones.

La diversité des hypothèses est symptomatique d’un désarroi dans la communauté des chercheurs. Face à un phénomène d’apparence mystérieuse, on invoque à tort et à travers toutes sortes de mécanismes complexes. Ne vaudrait-il pas mieux réfléchir davantage sur ce qu’on veut réellement expliquer ? Qu’entend-on réellement par "conscience" ?

Il faut élaborer une définition qui est proche de ce que l’on entend communément par le mot conscience, mais qui est aussi suffisamment précise pour se prêter à l’investigation scientifique.

Une manière de procéder est proposée par les philosophes. Ceux-ci suggèrent de distinguer deux notions de conscience, la "conscience d’accès" et la "conscience phénoménale". La conscience d’accès concerne les capacités cognitives qui sous-tendent la conscience, tandis que la conscience phénoménale concerne le "ressenti brut" d’une expérience.

Le philosophe David Rosenthal définit la conscience d’accès en termes de "pensée d’ordre supérieure" ("higher order thought", HOT). L’idée est qu’un agent est conscient (d’accès) de X quand non seulement il pense à X, mais quand il a aussi une pensée sur le fait qu’il pense à X. L’idée correspond bien avec notre intuition que la conscience nécessite non seulement d’être en train d’utiliser X dans son activité cognitive : d’y réfléchir, d’y faire attention, d’être en train d’utiliser X pour agir ou concevoir une action, éventuellement d’en parler. Mais il faut en plus avoir cette "meta-pensée" qui consiste à penser au fait qu’on est en train de faire ces choses.

La notion de "penser" ici est comprise de façon très générale comme consistant en une activité cognitive qui peut être décrite en termes de focalisation de l’attention sur une information, en termes de processus computationels ou décisionels, et en termes d’utilisation d’informations pour agir. Vues de cette façon, les notions de penser et par extension de conscience d’accès sont abordables à toute entité capable de manipuler l’information de façon évoluée.

Un problème semble néanmoins se poser pour le "je". Si on dit que pour être conscient (d’accès) de X, un agent doit avoir une pensée sur le fait qu’il pense à X, on doit se demander qui est le "il" dans cette expression. Sous-entendu dans la notion de conscience d’accès, il y a l’idée que le "il" en question n’est pas un simple automate, mais un véritable agent, et qu’il possède la notion de "je".

Ce "je" pourrait être une construction cognitive et sociale, comme déjà proposé par Hume au 18ème siècle et défendu aujourd’hui par beaucoup de philosophes, psychologues et psychologues sociaux. Le "je" serait une notion abstraite que chacun d’entre nous construit pour justifier et expliquer dans nos narratifs personnels, d’abord auprès d’autrui, puis aussi auprès de "nous"-mêmes, les comportements des entités que "nous" sommes. Le philosophe contemporain Daniel Dennett parle de "centre de gravité narratif". Le concept de "je" est donc un concept entretenu par des individus par un accord social, un peu comme l’argent, tout en n’étant que des morceaux de métal ou de papier, acquiert sa valeur et devient "réel" grâce à un accord social. Mais le statut du "je" est plus complexe que celui de l’argent, car le "je" est auto-référent : c’est le "je" lui-même qui s’est défini et qui par là s’auto-entretient. L’existence du "je" engendre l’existence aussi réelle de concepts comme les croyances, les désirs et les buts. Il semble d’abord saugrenu d’imaginer qu’un concept abstrait, une construction cognitivo-sociale, puisse engendrer un sentiment d’existence aussi intime et réelle que notre "je". Mais après tout les sentiments comme l’amour, la honte, la culpabilité, et nos images de nous-mêmes sont tous fortement déterminés par des influences cognitives et sociales, et sont néanmoins perçus comme étant extrêmement "réels" et intimement ressentis.

En conclusion donc pour ce qui est de la conscience d’accès, des machines suffisamment évoluées pour être capables d’avoir des meta-pensées, capables de facultés d’abstraction leur permettant d’extraire des concepts comme le "je", et insérées dans un environnement social, pourraient théoriquement accéder à la conscience d’accès. Évidemment nous sommes encore loin de faire des machines avec ces capacités, mais aucun obstacle logique ne semble se présenter.

Par contre la situation est différente pour ce qui est de l’autre type de conscience que j’ai évoqué, la conscience phénoménale.

La conscience phénoménale est ce "ressenti brut" qui accompagne nos sensations : par exemple le "ce-que-ça-me-fait" d’une douleur, ou le ressenti du rouge, que je ne peux pas communiquer à d’autres. Bien sûr, je peux parler de ma douleur ou de mon impression du rouge, mais le "ressenti brut" est cet aspect restant après avoir dit tout ce que je peux dire. C’est par exemple cet aspect du rouge qu’on ne peut pas expliquer à quelqu’un qui est aveugle. Nous nous accordons tous sur le fait que ce ressenti brut existe, dans la mesure où c’est lui qui nous permet au dernier ressort de différencier nos sensations. Mais du fait qu’elle est ineffable, la conscience phénoménale est logiquement inabordable par une approche scientifique. Car si j’avais par chance découvert ce que je croyais être le mécanisme qui génère le ressenti brut du rouge dans mon cerveau, comment pourrais-je être sûr que ce même mécanisme ne génère pas justement le ressenti brut du vert chez quelqu’un d’autre ?

Supposons que le mécanisme dépende par exemple d’une fréquence d’oscillation, d’une réverbération cortico-thalamique ou d’un effet quantique particulier. La question se poserait pourquoi telle fréquence ou tel type de réverbération ou effet quantique engendrerait le rouge plutôt que le vert. Comment vérifier une hypothèse sur un mécanisme physico-chimique, si l’effet psychologique de ce mécanisme est ineffable, c’est-à-dire incommunicable ?

Pour résoudre ce problème logique il faut concevoir une nouvelle manière de comprendre la conscience phénoménale. Au lieu de supposer que la conscience phénoménale est générée par le cerveau, je suggère de la concevoir comme une manière d’interagir avec l’environnement. De prime abord cette idée paraît curieuse, mais on peut la rendre plausible en prenant l’exemple de la sensation du "mou" d’une éponge. Où est généré le "mou" de l’éponge ? Clairement cette question est mal posée, car la sensation de "mou" n’est justement pas quelque chose de généré. La sensation de "mou" réside dans la manière dont l’éponge réagit à la pression de nos doigts quand on manipule l’éponge. La sensation est constituée par une loi "sensorimotrice" abstraite qui décrit la relation entre nos sorties motrices et nos entrées sensorielles.

On peut alors comprendre pourquoi on ne peut parler précisément du "ce-que-ça-me-fait" de la sensation du mou, car fondamentalement les particularités de mes muscles, de mes capteurs, de ma manière d’appuyer sur l’éponge ne me sont pas cognitivement accessibles, et de plus elles sont certainement très différentes des particularités des muscles et des capteurs de quelqu’un d’autre. Par contre on peut néanmoins dire certaines choses concernant les lois abstraites qui régissent mon interaction avec l’éponge et qui s’appliquent à l’ensemble des observateurs. On peut par exemple comparer le "mou" de l’éponge au "dur" du caillou, et faire une échelle de la dureté sur laquelle tout le monde va s’accorder. On peut s’accorder également sur le fait que simplement penser au mou de l’éponge ne peut jamais donner un réel senti brut de mou, car penser n’implique pas une réelle interaction avec le monde.

Si on généralise ce que je viens de dire au sujet du mou de l’éponge à l’ensemble des sensations que nous procurent nos cinq sens, on peut alors échapper au problème logique qui nous traquait pour comprendre la conscience phénoménale. Une telle généralisation n’est pas évidente à faire dans la mesure où le besoin d’agir pour percevoir n’est pas si évident pour beaucoup de sensations — par exemple, s’il est évident qu’il faut bouger pour sentir le "mou", cela ne semble pas nécessaire pour voir les couleurs. Mais l’avantage philosophique et scientifique d’entretenir l’hypothèse "sensorimotrice" est telle qu’il est néanmoins utile de prendre ce pari. Il s’avère alors que le pari est très fructueux. Il devient alors possible d’expliquer pourquoi les sensations sont telles qu’elles sont (mêmes les couleurs !), et pourquoi elles nous font l’effet qu’elles nous font. De plus, cette nouvelle approche permet d’engendrer des nouvelles voies de recherche scientifiques.

En particulier, on peut montrer que l’approche sensorimotrice prédit un phénomène intéressant qui est celui de la "substitution sensorielle" : par moyen de dispositifs spéciaux, il est possible par exemple d’engendrer une sorte d’expérience visuelle par l’intermédiaire d’une stimulation tactile ou auditive, ouvrant la voie à différents types de suppléance sensorielle, par exemple pour des handicaps visuels ou auditifs.

Un autre exemple d’application de l’approche sensorimotrice concerne la sensation subjective de richesse, de complétude ou de "présence" perceptive que nous avons du monde visuel. L’approche sensorimotrice suggère qu’en fait cette sensation de présence est une sorte d’illusion que l’on peut mettre en défaut dans certaines conditions. Comme exemple il y a le phénomène de "cécité aux changements" (Change Blindness), où les observateurs ignorent de grands changements pourtant parfaitement visibles dans une scène visuelle, parce que leur attention est déviée par un autre évènement brusque survenant dans la scène. Un phénomène apparenté est celui de la "cécité inattentionelle" (Inattentional Blindness) qui est à la base de beaucoup d’accidents de la route.

Mais pour revenir à notre question de départ, est ce qu’un robot peut être conscient ? Nous voyons maintenant que si l’on combine la notion de conscience d’accès avec la nouvelle approche sensorimotrice pour la conscience phénoménale, alors on a le moyen, du moins logiquement, de rendre compte de l’ensemble des phénomènes de la conscience.

Donc contrairement à ce que prétendent certains philosophes, la conscience n’est pas un phénomène a priori inabordable par la science. Il n’y a pas d’obstacle logique pour l’engendrer dans des robots. D’ici qu’on le fasse, par contre, il reste de formidables défis pratiques, en particulier concernant les capacités d’abstraction conceptuelles à incorporer dans des machines. Nous devons néanmoins nous y préparer dans les décennies qui viennent.

(Pour plus d’informations, des démonstrations de cécité aux changements et d’autres applications de l’approche sensorimotrice, voir mon site web : www.kevin-oregan.net)

"Why red doesn’t sound like a bell : Understanding the feel of consciousness." J. Kevin O’Regan, Oxford University Press, juillet 2011.


12, rue de l'école de médecine Paris 6ème | contact | n°ISSN |