mardi 28 mai 2013 - par Automates Intelligents (JP Baquiast)

Nouvelles approches de la conscience

Dans un récent article, Celeste Biever (voir références ci-dessous), qui étudie pour le compte du NewScientist le thème de la conscience artificielle, fait état de deux projets visant à développer des embryons de telles consciences.

Jean Paul Baquiast 27/05/2013

Le point important pour nous est que leurs promoteurs s'éloignent des approches traditionnelles de l'intelligence artificielle, faisant appel à des programmes informatiques mis en oeuvre par des agents simulant les échanges entre neurones ou bases neurales censés se produire dans des cerveaux vivants, notamment les 3 aires généralement considérées comme intervenant dans les processus conscients, le thalamus, le cortex préfrontal latéral et le cortex pariétal postérieur.

L'espace de travail global

Une des principales raisons pour lesquelles ces approches ne sont pas considérées aujourd'hui comme très fécondes est qu'il reste difficile, sinon impossible, d'enregistrer les vrais échanges entre neurones se produisant dans ces aires. Bernard Baars depuis bientôt 30 ans, avait proposé qu'il s'agissait de l'Espace de travail global (Brain's global Workspace) où s'élaboreraient des pensées conscientes, à partir de la synthèse à grande vitesse de nombreux messages provenant des aires sensorielles et motrices du cerveau. Mais rien ne permet aujourd'hui de comprendre comment de telles synthèses pourraient résulter de multiples neurones s'excitant en parallèle à partir d'entrées entrant en corrélation.

Un modèle mathématique de ce processus a pourtant été proposé, dit «  Information Integration Theory » selon lequel tout réseau, fut-il biologique ou informatique, pourrait devenir conscient dès lors qu'il disposerait d'un nombre suffisant (peut-être des centaines de milliers) de noeuds (nodes) capables de s'activer en parallèle. De la somme de ces parties devrait émerger un Tout, le sentiment conscient, qui serait plus que la simple addition des parties. Nous avons précédemment discuté une version de cette théorie en présentant le dernier ouvrage de Giulio Tononi, « Phi A voyage from the Brain to the Soul  » . La difficulté à laquelle se heurtent de telles hypothèses est qu'il est encore impossible, faute de ressources informatiques suffisantes, de simuler le fonctionnement de réseaux assez complexes pour comporter les nombreux noeuds capables d'intégrer des informations en quantité suffisante.

LIDA

Très différents sont les deux projets évoqués par l'article de Celeste Biever. Le premier, LIDA (Learning Intelligent Distribution Agent ) propose un automate dont les « neurones » enregistrent une double série de cycles d'une milliseconde. produisant alternativement des états inconscients et des états conscients. Dans l'état de perception inconsciente, LIDA scanne l'environnement et copie les produits de ces perceptions dans sa mémoire sensorielle. Interviennent alors des détecteurs de particularités (features detectors) qui à leur tour scannent cette mémoire afin d'y détecter certains sons, couleurs ou mouvements. Ils les transmettent ensuite à un module logiciel qui les identifie comme des objets ou des évènements.

Dans une phase suivante, correspondant à l'équivalent d'une compréhension consciente, ces divers éléments peuvent être rapprochés par LIDA des contenus de sa mémoire à long terme. S'ils sont suffisamment concordants et significatifs (salient), ils s'intègrent au contenu d'un espace de travail global correspondant pour LIDA à un espace conscient. Ils servent par la suite à commander éventuellement des actions d'ensemble, permettant de recommencer le cycle. Dans une certaine mesure (mais nous le consulterons à ce sujet) ces processus paraissent voisins de ceux proposés par Alain Cardon pour construire une conscience artificielle. Inutile de préciser que dans le cas de LIDA ces différentes phases ont été au départ programmées par les concepteurs du système. Elles n'ont pas émergé spontanément.

XCR

Le projet XCR ( Experimental cognitive robot) développé par Pentti Haikonen, de l'Université de Sprigfield dans l'Illinois, paraît assez différent. Il abandonne résolument le recours à la programmation préalable des bases comportementales du robot. Pour Haikonen, l'interprétation du monde à travers les mots utilisés par le langage conscient, ainsi la couleur rouge, la douleur, ne s'impose pas en premier lieu au cerveau humain. Ce sont des objets ou des sensations physiques qui sont perçus, par le corps d'abord, le cerveau ensuite. XCR procède de la même façon. Le robot réagit non à un software, mais à la façon dont ses composants physiques, résistances, diodes, reçoivent l'interaction avec le milieu extérieur. Il enregistre directement l'information en résultant dans son hardware.

XCR, qui est un petit robot mobile, a été construit de telle sorte que, lorsqu'il est frappé avec une force suffisante, il s'arrête et recule. Il s'agit d'un réflexe d'évitement qui correspond chez l'homme à une réaction consciente à la douleur. Le robot est aussi capable d'une sorte d'apprentissage. Si, lorsqu'il est frappé, il tient un objet de couleur bleu, il associera ensuite cette couleur à la douleur et reculera.

On objectera qu'il ne s'agit ici que d'une « conscience primaire », également présente dans la plupart des organismes vivants. Mais, selon les concepteurs de XCR, rien n'empêche d'augmenter de plus en plus la gamme des réactions physiquement acquises au contact de l'environnement. Avec un peu de lyrisme, on pourra envisager la production de sensations et de sentiments.

On remarquera que les concepteurs de robots industriels, destinés à remplacer les ouvriers, se sont engagés depuis longtemps dans une direction voisine, bien que de portée beaucoup plus spécialisée. Ces robots sont-ils eux aussi devenus conscients, comme le laissent entendre les entreprises japonaises telles que Toyota, qui les emploient de plus en plus ? A moins que ce ne soit les ouvriers qui soient devenus des robots (Voir à ce sujet Daniel Mermet, Cocorico Toyota , France Inter, lundi 27 mai 2013)

Les essaims de drones

Ce qui est certain, pour nous comme pour semble-t-il J. Kevin O'Reagan, cité par l'article, la meilleur façon de comprendre la conscience ne sera pas dans une exploration sans fin du cerveau, telle qu'entreprise actuellement par les deux projets, européen et américain, dits Human Brain Projects. Ce sera de tenter, par essais et erreurs, de construire des robots pouvant prétendre à une conscience semblable à la nôtre. Kevin O'Reagan est Directeur du Laboratoire Psychologie de la Perception, Centre National de Recherche Scientifique, Institut Paris Descartes de Neurosciences et Cognition

Rappelons que beaucoup d'industriels, là encore principalement américains, sont bien convaincus de ce qui précède. Ils y travaillent activement. Ainsi de nouvelles générations de drones coopérant de façon intelligente pour analyser des scènes militaires mais aussi des scènes civiles (tel que le simple dénombrement en temps réel d'une foule de manifestants), représentent l'horizon actuel, tant de l'industrie aéronautique que de l'intelligence artificielle évolutionnaire.

Références
* Celeste Biever 25 mai 2013
http://www.newscientist.com/article/mg21829171.900-consciousness-why-we-need-to-build-sentient-machines.html
* Information Integration Theory, de Giulio Tononi. http://www.biomedcentral.com/1471-2202/5/42/ Voir aussi notre article Phi, a voyage from brain to the soul http://www.automatesintelligents.com/biblionet/2012/sept/phi.html
* Lida http://www.newscientist.com/article/mg21028063.400-bot-shows-signs-of-consciousness.html
* XCR Experimental cognitive robot,
Voir Pentti O. A. Haikonen Consciousness and the Quest for Sentient Robots (payant)
http://link.springer.com/chapter/10.1007%2F978-3-642-34274-5_4

* Sur les robots militaires, voir Mark Bishop, Why we need to stop military killer robots now http://www.newscientist.com/article/mg21829170.300-why-we-need-to-stop-military-killer-robots-now.html

 



7 réactions


  • Francis, agnotologue JL 28 mai 2013 10:09

    Bonjour,

    C’est intéressant, et il y a plusieurs manières d’aborder la question.

    Quand vous écrivez : ’’XCR, qui est un petit robot mobile, a été construit de telle sorte que, lorsqu’il est frappé avec une force suffisante, il s’arrête et recule. Il s’agit d’un réflexe d’évitement qui correspond chez l’homme à une réaction consciente à la douleur. Le robot est aussi capable d’une sorte d’apprentissage. Si, lorsqu’il est frappé, il tient un objet de couleur bleu, il associera ensuite cette couleur à la douleur et reculera.’’ Je ne vois là rien qu’un automate fabriqué, capable de faire ’comme si’.

    J’ajoute à ça cette autre proposition que vous émettez : ’’Rappelons que beaucoup d’industriels, là encore principalement américains, sont bien convaincus de ce qui précède. Ils y travaillent activement.’’

    Et je conclurai : je ne doute pas que des industriels se satisferont de robots capables de faire ’comme si’, de la même manière que Big Brother d’un autre coté est en train de fabriquer des humains qui font ’comme si’.


  • Cocasse Cocasse 28 mai 2013 12:51

    Les personnes ayant de telles ambitions ont-elle déjà une connaissance de la nature de la conscience ?

    Pour cela, il n’y a pas d’autre possibilité que se connaitre soi-même, et d’expérimenter en son for-intérieur la nature de sa propre conscience.

  • ecolittoral ecolittoral 28 mai 2013 17:12

    On parle de reproduire la conscience sans avoir la moindre idée de ce qu’elle est !

    Je vous rappelle que, contrairement à la base de données(constantes et variables) d’un ordinateur, on ne sait pas ce qu’est la mémoire, ou un souvenir !
    Ce que l’on observe dans le cerveau, ce sont des échanges incompréhensibles. Nous pouvons affirmer que telle partie semblerait en rapport avec ceci ou cela mais pas plus. Si telle partie est endommagée, les souvenirs, sentiments, notion de temps etc. ne passent plus mais rien d’autre.
    C’est comme si j’affirmais que ce site, l’article, les commentaires sont issus de - la conscience alimentée par la mémoire - de serveurs informatiques. Il ne s’agit que de programmation humaine élaborée pour accomplir bêtement une tache. 
    Si je devais me comparer à une machine, je dirais que je suis un téléviseur programmable et je doute que son cerveau : antenne + câble + récepteurs + décodeurs, contienne ce flot d’images et de sons.
    Ça doit être un peu plus compliquer.

  • Maître Yoda Castel 28 mai 2013 17:50

    La conscience, cette seule certitude que nous avons du monde.


  • Luc-Laurent Salvador Luc-Laurent Salvador 28 mai 2013 19:11

    Le problème avec la recherche en I.A, c’est que les chercheurs doivent absolument produire quelque chose pour justifier les financements.

    Réfléchir, non seulement ils n’ont pas le temps. Ils ne voudraient pas l’avoir. Car 25 siècles de philosophie montrent suffisamment que la réflexion n’offre absolument aucune garantie de parvenir à bonne fin. Bref, la réflexion nue dorénavant fait peur.

    Il faut des trucs qu’on peut implémenter, du concret, même si c’est du grand n’importe quoi, bourré de pensée magique (genre l’émergence du tout plus grand que la somme des parties fera apparaître la conscience, abracadraba !).

    Nous ne savons pas ce qu’est la conscience.

    Et l’I.A. partie comme je la vois, pourrait bien prouver qu’après 25 siècles de tâtonnements aveugles, on est pas mieux loti qu’après 25 siècles de réflexion fumeuse.


  • Aristoto Aristoto 28 mai 2013 21:36

    C vraiment un domaine prioritaire !! Je veux bien qu’on me taxe de tous mes assedic et autres fraude l’aide sociale pour accentuer d’avantage les recherche dans l’I. A. : l’Intelligence Améliorée.

    Un intelligences qu’on mettre au servies d’un ordre mondiale globalisant qui sera le coeur même de notre système !!


  • soi même 29 mai 2013 03:48

    @ Automates Intelligents, vos articles me font pensé que qu’est Mosanto pour les OGMs.
    vous pensé sincèrement que cela va être un progrès fabuleux pour l’être humain toute ses études, et bien j’en doutes autant sur le fond que sur la forme.
    A votre avis qu’il y a t’ il derrière cette recherche, il y a t ’il pas là, le vieux fantasme humain de devenir un créateur de clone mécanique humains ?
    Bien sur, c’est fascinent cette recherche, mais si c’est pour déboucher sur des horreurs technologies en qui c’est un progrès ? 


Réagir