mardi 9 janvier 2018 - par Taverne

L’IA est stupide et dangereuse

Nous allons tenter de montrer ici que ce qui fait le danger de l’Intelligence artificielle, ce n’est pas son intelligence forte à venir mais au contraire sa stupidité irrémédiable. L’IA même forte est loin de pouvoir prétendre égaler l’esprit humain et même animal. Pour deux raisons au moins. Elle n’a pas l’instinct de survie, elle n’a la notion du juste. Or, même l’être le plus primitif possède ces deux fonctions. Et ces deux fonctions manquantes chez l’IA font que l’IA n’est pas accessible à la sensibilité, à l’émotion, à l’intuition. Ces trois choses ne peuvent qu’être simulées par une machine, pas vécues. Il en résulte que la plus grande partie de l’intelligence, sa part essentielle, échappe complètement à l’IA. A l’opposé, l’IA peut nous surclasser dans l’art de penser juste (voir mon article : une méthode pour penser juste) qui requiert du sang-froid, du recul, de la distance avec les choses et les émotions. Si on résume ainsi les faits : l’IA est à la fois stupide et dangereuse.

I – L’IA ne peut pas connaître l’idée du juste

Antonio Damasio, grande figure américaine des neurosciences, auteur notamment de « L’erreur de Descartes » et de « Spinoza avait raison », écrit dans son dernier livre paru, « L’Ordre étrange des choses » que les simples bactéries préhistoriques avaient déjà le sens du juste. En cela, il confirme ce que j’ai évoqué dans mon article (« La gestion des migrants et les faux dilemmes ») dans lequel j’explique que le juste possède un enracinement fondamental dans la nature même et que nous devons nous en inspirer avant d'échafauder des lois morales. Damasio explique que les bactéries qui sentent un « déserteur » le chassent parce que l’égoïsme de celui-ci met en péril la cohésion du groupe de cellules et donc à terme sa survie. Une cellule, tout un groupe d’animaux primitifs, est capable d’exclure un individu qui va contre la notion de juste, le juste étant une nécessité vitale collective.

Ce qui est juste trouve son fondement dans ce qui est bon pour soi ou pour le groupe, ce qui est injuste est ce qui est mauvais à l’échelle collective comme sur un plan personnel. Damasio donne l’exemple couramment observé dans la nature de la rétractation et de la détente : une cellule dont le métabolisme, les échanges sont satisfaisants se détend. Confrontée à un stress, elle se rétracte. (source : L’Obs n°2772). On peut le voir aussi avec les plantes dont les feuilles et les fleurs se détendent pour capter ce qui est bon (la lumière) et se replient pour se protéger. Cette règle naturelle trouve aussi à s’appliquer dans le groupe social qui se détend et fait preuve d’hospitalité envers les inconnus quand il va bien (nourriture en abondance) mais qui se repliera sur lui-même s’il se sent menacé. Une société évoluée doit perpétuer cette règle naturelle mais en dissociant bien les cas. J’ai donné l’exemple des migrants qui provoquent une peur panique excessive au sein de notre nation qui répond par des réflexes inadaptés et surtout injustes. Alors qu’elle pourrait lutter plus efficacement contre l’immigration non légitime et non souhaitable si elle savait raison garder. Mais surtout, ce qu’il faut avoir en tête pour reste dans le sujet, c’est que l’IA est encore moins apte que les êtres humains à apprécier les situations et à leur appliquer des réponses justes. L’IA n’étant pas d’origine naturelle, le juste est une notion qui lui échappe à jamais. Face à la question aussi complexe que l'immigration, ses réponses seraient épouvantables car elle inapte, fondamentalement, à approcher ce genre de complexité humaine et sociale.

II – L’IA n’est créative

Revenons à la thèse de Damasio. Cet auteur dit aussi que l’être vivant, tout comme le corps social, ne se transforme que lorsque sa survie l’exige. Ce sont les situations de souffrance qui nous poussent à rechercher des solutions. L’évolution naturelle n’ignore pas non plus ce principe. Mais l’IA n’est pas issue de la sélection naturelle et elle n’est pas équipée de l’instinct de survie. Son potentiel créatif est ainsi très faible, du fait même de la nature de sa conception. Elle n'a pas connu non plus les stades liés à l'avancée en âge, stades qui nous modifient considérablement et nous font avancer. L'IA est d'ailleurs incapble de comprendre l'idée de l'âge d'une personne !

Avec l’instinct de survie, il y a les émotions. Et ces émotions prennent toujours part à nos choix décisifs, que ce soit les émotions négatives (peur, dégoût, honte, tristesse, colère) que les émotions positives (joie, bien-être, empathie…). Et l'émotion de grandir telle que nous venons de l'évoquer ci-dessus. Quoi que l’on fasse, l’IA ne pourra jamais ressentir ces états, indissociables de la puissance de vie et de l’instinct de survie qu'elle n'a pas.

III – La condition humaine est étrangère à l’IA

Ceci est le troisième argument.

Si l’on pouvait dresser un profil d’une vie humaine standard, on listerait un certains nombres de choses que l’IA ne peut pas acquérir :

- nos buts dans la vie (bonheur, vérité, justice, liberté),

- nos moteurs (confiance, désir, volonté),

- nos méthodes (intuition, sensibilité, imagination, motivation, sens de l'effort et du dépassement),

- nos moyens (le savoir et l'ignorance délibérée de certaines choses, la mémoire et un certain oubli nécessaire, la vérité et l'art du mensonge et de la fiction incluant l'humour).

Dans cette liste, cherchez donc l'IA !

La conscience de la mort inévitable influe considérablement sur le comportement humain au point que ce dernier régle sa vie sur cette angoisse récurrente. Il deviendra croyant ou décidera de vivre vite (ou au contraire de se préserver au maximum pour durer longtemps). Il développera des valeurs et des croyances en réactions de l’idée de sa fin. Il développera des vertus pour gagner son salut, etc. L’IA en est incapable.

Autre exemple. Face à la souffrance, à son sentiment d’impuissance dans un monde infini et au sein duquel l’individu se sent fort peu de chose, l’être humain développe un égo, une volonté de puissance, ainsi que des mythes rassurants pour se donner de l’importance. Il développera va domestiquer sa propre nature, chercher à se dépasser. Il sera capable de sacrifice personnel ou d’héroïsme, deux idées inconcevables pour une machine qui n’a pas cette force issue de la nature. C’est ainsi que l’individu acquiert de la valeur à ses propres yeux, démarche nécessaire pour sa survie mentale et pour la construction de son identité. Chez l’IA au contraire, pas d’égo ni de volonté de puissance, ni d’identité forgée à la force des épreuves et dans la confrontation aux autres et aux aléas de la vie.

Quant au libre arbitre aussi, l’homme, la femme, peuvent choisir de diriger leur attention comme ils le décident : pour écouter un interlocuteur malgré le brouhaha ambiant, pour écouter une musique, pour regarder une chose qui l’intéresse , pour reconstituer un souvenir et le revivre (voir Proust). L’être humain choisit ses centres d’intérêt et définit en conséquence le champ de son attention et donc aussi le champ de sa conscience. L’IA est attentive seulement à ce que pour quoi on l’a progammée.

Enfin, il y tout l’aspect relationnel qui fait l’intelligence humaine. Un humain qui vivrait solitaire depuis toujours n’aurait ni identité ni le sens du juste, parce qu’il ne serait jamais entré en interaction avec des congénères. Il serait comme une machine dite "intelligente" : sans identité propre (créée de façon empirique et « naturelle ») et sans justice, sans empathie non plus (elle sera seulement programmée, simulée !). On sait que les interactions jouent un rôle important dans la formation des intelligences humaines prises isolément ou collectivement. C’est ainsi que les humains aiment communier ou se déchirer en mettant en scène des enjeux qui amplifient leurs émotions. Les humains ont besoin d’émotion et, pour ce faire, ils créent beaucoup d’histoire, se font la guerre, etc. L’IA n’a pas en elle un instinct qui la pousse à rechercher les émotions fortes.

Et, puisqu’il faut aussi le dire, elle n’a pas de désir sexuel et ne connaît pas le plaisir physique. Pourtant, l’amour enrichit notre conscience et notre intelligence générale. L’IA est aussi stupide sur ce point-là. Avouez que cela fait déjà beaucoup de points sur lesquels l’IA n’égale ni l’homme ni l’animal. Ni même parfois le végétal. L’interaction c’est enfin l’amitié, l’amour. Depuis toujours elles mènent le monde. Qu’adviendra-t-il si à l’avenir elles ne font plus partie des facteurs et des paramètres qui dessinent les grands choix de nos sociétés, de nos lois, de nos existences ?

Tous ces manques, irrémédiables, font de l’intelligence artificielle dite forte une source de danger très inquiétante pour nous dans le futur. L'intelligence artificielle est stupide et à trop vivre à son contact, l'homme risque de le devenir aussi. Il risque de perdre des points de QI (on dit que cela a déjà commencé) et pas seulement cette forme d'intelligence mesurable, mais sa sensibilité et son imagination aussi. Quand un être dépend avant tout de lui-même pour survivre et faire ses choix difficiles, sa souffrance et ses efforts participent au développement de son intelligence grâce aux réponses ingénieuses qu'il doit élaborer dans son autonomie totale pour faire face à tout cela. Mais s'ils se reposent sur des algorithmes pour prendre des décisions et sur les choix qu'on lui propose grâce aux traces laissées dans son ordinateur, il perd en capacité de jugement et en étendue d'entendement.

La machine n’aura jamais cette relation avec l’univers et le cosmos, cette communion avec la nature et avec notre corps. Elle n’a pas le sens de la danse, ni de la transe, ni la joie créatrice. Elle ne sentira jamais la palpitation de la vie, la sève de toutes choses, ni les sensations propre à l'intimité (trouble amoureux, pudeur, honte...). Il est une question, grande source de la philosophie et des sciences, qu'avec l'IA, l'homme pourrait ne plus se poser, une question qui pourtant l'a de tous temps accommpagné et a suscité la curiosité de son esprit : la question "pourquoi ?"

 



171 réactions


  • L'Astronome L’Astronome 9 janvier 2018 09:45

     
    Le seul fait d’accoler deux mots antinomiques dans l’expression « intelligence artificielle » crée un oxymore. C’est donc stupide.
     


    • Taverne Taverne 10 janvier 2018 21:29

      @L’Astronome

      Effectivement, « intelligence artificielle » n’est pas synonyme d’intelligence. L’adjectif a toute son utilité. Il n’est pas ajouté par hasard mais pour contrecarrer la force du premier terme.

      Une chose n’est jamais intelligente, c’est un principe de base philosophique, il me semble.


  • JL JL 9 janvier 2018 09:58

    ’’l’IA est à la fois stupide et dangereuse.’’
     
     « Il ne faut pas avoir peur des gens méchants, ce sont de pauvres diables comme les autres. Les imbéciles seuls sont vraiment redoutables. » Jean ANOUILH,
     
    En l’occurrence, ce n’est pas l’IA qui est dangereuse : aucun outil, aucune arme ne sont dangereux : c’est celui qui s’en sert qui est, à l’occasion, dangereux.
     
     Savez vous pourquoi la logique binaire s’est imposée ? Parce qu’elle a été essentiellement un outil comptable entre les mains du capital. La pensée comptable est une pensée binaire.


    • JL JL 9 janvier 2018 23:28

      @FreeDemocracy
       
       ’’le principe d’une IA c’est d’être autonome’’

       On aurait libéré les IA ? On aurait aboli l’esclavage des outils ? On ne me dit rien à moi !
       
       smiley
       

       


  • philippe baron-abrioux 9 janvier 2018 10:37

    @l’auteur ,

     Bonjour ,

     il y a peu de temps encore qui n’a pas prononcé ces mots : « je ne suis pas qu’un numéro ! » ?

     encore moins longtemps : « elle a bon dos l’informatique  ! »

     les chiffres , les nombres , sont devenus les repères mis à contribution dans une foule de domaines signifiant progrès , facilitation , libération , sans que cela soulève beaucoup d’inquiétudes ou de révoltes .

     nous avons plus ou moins admis que les sciences qui les utilisaient et parfois même les manipulaient constituaient des avancées « notables » dans notre marche vers le progrès , jamais encore vraiment défini .

    aujourd’hui , ces mêmes sciences avec ces mêmes chiffres et nombres, qui ont quand même permis que des hommes soient capables par accumulation insensée de faire exploser la planète et d’y tuer la moindre parcelle de Vie , nous proposent un nouveau compagnonnage avec un ersatz d’humain doté d’une intelligence artificielle dont certains vantent toutes les possibilités , capables de pallier tous les manques constatés dans l’ensemble de ce qui jusqu’à maintenant constitue la vie d’un humain du 21 ième siècle grâce à ses interventions( on l’espère ) pratiques et bienveillantes .

     je me permets d’évoquer un petit problème concernant cet « ersatz d’humain » : quel serait son statut juridique qui permettrait d’invoquer sa responsabilité éventuelle en cas de « bugg » ou de faille dans son fonctionnement ?

     aura t on un jour à entendre la complainte si souvent entendue : « c’est indépendant de notre volonté ! » ?

     cet ersatz aura t il une « volonté autonome » ? et si oui , comment pourra t on le rappeler à sa « responsabilité » voire sanctionner ses erreurs ?

     n’oublions pas quand même pas qu’il serait un intervenant dans des situations d’interactions : je ne suis pas persuadé de pouvoir accepter d’interagir avec cet « ersatz d’humain » quelle que soit sa présentation esthétique .

     la VIE est belle , l’univers en constante expansion et vive les « sciences dures » appliquées à des êtres ,nous mêmes , assez mous depuis bien longtemps !

      bonne fin de journée !

     P.B.A 

     

      


  • pipiou 9 janvier 2018 12:22

    Bon, le défaut de l’Intelligence Artificielle c’est qu’elle est artificielle, Waoh !

    Et c’est pour ça qu’elle est dangereuse ?


    • pemile pemile 9 janvier 2018 13:48

      @pipiou « Et c’est pour ça qu’elle est dangereuse ? »

      Quand on arrive à lui faire prendre une banane pour un grille pain ? 

      https://www.numerama.com/tech/318604-un-sticker-mis-au-point-par-des-ingenieurs-de-google-parvient-a-detourner-lattention-dune-ia.html


    • Taverne Taverne 9 janvier 2018 15:01

      @pipiou

      Une caractéristique est qualifiée ou non de défaut selon la perspective que l’on se donne. Si l’on voit l’IA comme une simple machine destinée à seconder l’homme, son caractère artificiel n’est pas un défaut, c’est seulement une caractéristique. Mais si on met de l’IA partout et que cette IA décide à notre place, nous impose des choix prédéterminés, si on lui attribue une intelligence humaine, alors là on peut voir qu’elle a un défaut. Son défaut criant d’humanité doit nous inciter à ne pas en dépendre. Et ce n’est pas seulement l’humanité qui fait défaut à l’IA, c’est aussi tout ce qui est propre à la vie et qui permet à celle-ci de s’augmenter et de se préserver. 


  • foufouille foufouille 9 janvier 2018 13:43

    donc la science actuelle ne peut que rester au même niveau.


    • Ouam Ouam 9 janvier 2018 17:55

      @foufouille
      j’ai l’impression de remonter dans le passé
      C’etais mes potes photographes qui m’expliquaient tous et en masse que j’etais completement frappadingue en leur expliquant que « demain » (cad dans 20 ans+ tard) la pelloche n’existerai plus, ou serai une exeption, que le numérique serai de rigueur.

      Rires et quolibets de tous poils, j’ai eu le droit a ’« tout » smiley
      un peu comme ce que je lis ici au sujet de l’IA...la nature des « certitudes » etait la meme....
      Ma dolorean avec - 20 ans au compteur...
       
      Sauf que certains lorsqu’ils m’on recroisé un peu plus tard ne rigolaient plus du tout....
      par contre mon petit sourire en coin, il le voyaient ...
       
      Pour l’IA, c’est evidemment le meme chemin qui sera parcuru, je ne doutes pas une sec que l’IA demain dépassera a 95% l’humain
      C’est vrai que les improductifs gratte papier ca les fait grave fllipper, ils se racontent des belles histoires en y croant a fond, comme mes potes photographes à l’époque
      Je les compends un peu parce qu’il ne leur restera plus rien, ils seronts doublement remplacés.
       
      Par les machines d’un coté, et par les autres peuples culturellement .
       
      Dans ces deuxs cas ils auronts manqué de lucidité et d’anticipation sur un avenir tracé,
      que seul un égocentrime et une vanitée démesurée permets peut etre d’ignorer.


    • foufouille foufouille 10 janvier 2018 12:09

      @Self con troll
      « Comment trouver l’erreur qu’a faite la VA ? »
      on dirait du shawford.


  • pemile pemile 9 janvier 2018 14:08

    @Taverne « L’intelligence artificielle est stupide et à trop vivre à son contact, l’homme risque de le devenir aussi. »

    Bizarre comme expression, cela personnifie l’IA, non ?

    C’est plus un risque de fainéantise, qu’un charpentier utilise une calculette pour trouver une racine carré qui représente la longueur d’une poutre (hypoténuse) c’est utile, par contre, utiliser une calculette pour une simple addition smiley


    • Taverne Taverne 9 janvier 2018 15:23

      @pemile

      Oui, « trop vivre à son contact », qu’ai-je voulu dire par là ?

      Je suppose que j’ai voulu signifier que l’IA doit rester un outil et ne pas interférer dans les rapports humains ni prendre la place de l’humain aux moments des choix et des décisions à prendre. Là, par exemple, nous sommes dans un rapport humain, bien que nous soyons séparés par la distance, par un écran et par un clavier, nous sommes dans un rapport humain. La relation est un peu faussée, mais la relation reste humaine, vu que ni l’écran ni le clavier ne pense pour nous ou ne guide notre pensée. Mais, si pour quelque raison que ce soit, on vient interposer l’IA entre nous, alors le rapport n’est plus humain. Ce serait être trop en contact avec l’IA...

      De plus, ne vaut-il pas mieux être plus en contact avec la nature, la réalité, notre conscience intérieure, et les êtres humains, qu’avec une IA ?


  • Sparker Sparker 9 janvier 2018 15:19

    Et bien l’IA va nous contraindre à évoluer, à dépasser nos contingences car l’IA ne pourra jamais attribuer du « sens » à ce qu’elle préconisera, ce sera toujours le résultat d’un calcul, d’une analyse (a moins que je ne capte pas bien la réalité de l’IA)
    Elle fera mieux que nous ce que nous faisons de moins bien, gérer nos intérêts matériels terrestres.
    Le jour ou une IA aboutira au fait qu’il faille universaliser les ressources naturelles comme seule solution (exemple) pour favoriser un développement global plus homogène, ce sera une conclusion d’analyse (même bien plus complexe que la pensée de Macron), que fera t-on ?

    Pour le faire à notre niveau va falloir retourner au sens que l’on donne aux pensées et aux actes.


  • Aristide Aristide 9 janvier 2018 17:39

    Comment peut on être aussi péremptoire dans son jugement quand on connait la complexité de ce que regroupe le terme générique d’Intelligence Artificielle.


    Des systèmes experts, des réseaux de neurones, de la force brute, du machine et deep learning, de la logique floue,... enfin toutes ces approches de l’IA qui ont leurs réussites, leurs domaines et bien sur leurs échecs et leur limites. 

    l’IA est encore dans ses débuts, comment peut on avancer d’aussi abruptes affirmations ?

    • Aristide Aristide 9 janvier 2018 19:03

      @FreeDemocracy


      Heureusement que vous êtes là pour me dire de réfléchir. Vous êtes trop fort, vous savez ... ou vous croyez savoir. Donner la vie à du plastique ? Vision assez ... simpliste pour ne pas dire simplette de ce qu’est l’IA, mais bon.

      La conscience morale serait donc indépendante de tout apprentissage ? De tous dispositifs de mémorisation ? De toutes expériences vécus ? Serait donc une création divine ? Et le discernement est acquis sans avoir aucun apprentissage ?





  • Georges VALGEORGES Georges VALGEORGES 9 janvier 2018 17:51

    Affirmer des choses et argumenter c’est plutôt bien, à condition qu’il y ait un rapport réciproque entre les deux actions... même en relisant je n’arrive pas à vous suivre, votre intelligence stratosphérique m’est inaccessible. Plutôt que pointer ce qui pose problème au niveau de l’argumentation, essayons de deviner l’avenir.

    L’I.A va arriver, plus vite que ne pouvons l’imaginer car elle est depuis longtemps parmi les humains dans sa forme primitive. Par exemple : depuis 50 ans nous avons des chaudières qui régulent automatiquement la température de nos maisons. Cela, nous apporte du confort et nous permet de consacrer plus de temps à d’autres activités. Nous sommes habitués à déléguer nos corvées à des automatismes (le ver est dans le fruit).

    L’I.A arrivera parce qu’elle nous sera présentée comme la marche inéluctable du progrès et surtout parce que c’est dans l’intérêt du capital. C’est parce qu’elle apportera des améliorations dans la vie des humains (efficacité, conditions de vie, de sécurité,...) que le développement de l’I.A. sera acceptée.

    Mais soyons rassurés l’I.A sera très obéissante. Même si elle peut simuler en une fraction de seconde toutes les possibilités d’un problème, il y aura toujours des sécurités pour empêcher certaines actions, donc, elle obéira toujours exactement aux ordres des hommes les plus puissants.

    Avec un peu de chance, nous réussirons à utiliser l’I.A pour l’intérêt général, ce qui pourrait permettre à l’homme de s’extraire en partie de la matière et de s’élever spirituellement. Sinon,... ça ne sera agréable pour personne.


    • pemile pemile 9 janvier 2018 18:14

      @Georges VALGEORGES "Mais soyons rassurés l’I.A sera très obéissante"

      Obéissante tout en étant stupide ?


    • Aristide Aristide 9 janvier 2018 19:08

      @FreeDemocracy


      Cela ne se programme pas, Programmer la psychologie !!! En voilà de la réflexion sur l’IA.
      Votre problème est que vous ne connaissez rien de toutes les voies de recherche sur ces domaines et que vous portez un jugement définitif sur un sujet que vous ne connaissez pas.

      Pour le reste, il y a bien longtemps que sur ces domaines on ne parle plus de programmation ...



    • Aristide Aristide 10 janvier 2018 11:08

      @FreeDemocracy

      Votre réponse ne fait que confirmer votre méconnaissance complété de ce qu’est l’IA. Mais bon, essayez de vous renseigner sur les recherches, les réussites et les échecs, vous verrez beaucoup plus clair et vous sortirez peut être de cette bouillie mélangeant tout et n’importe quoi.



    • foufouille foufouille 10 janvier 2018 12:12

      @FreeDemocracy
      je confirme également ta connerie profonde datant de 1900 avec le TGV qui fait s’envoler les vaches.


  • Attilax Attilax 9 janvier 2018 18:07

    L’IA est un passage obligé pour nous amener à la prochaine évolution humaine, du moins selon les GAFA. Ils veulent supprimer la mort, justement, et nous amener progressivement à devenir des machines. Bientot l’humanité augmentée, puis juste des machines... Vous avez tort de croire qu’une intelligence robotique ne pourrait pas dépasser la notre : c’est en train d’arriver, et très très vite. D’où l’inquiétude de savants comme Stephen Hawking à ce sujet. Les futurs processeurs quantique vont pouvoir calculer des milliards d’opérations complexes à la secondes, aucun cerveau humain ne pourra rivaliser. Les chaînes de neurones informatiques vont etre de plus en plus performantes, inter-connectées et similaires aux nôtres. Google a racheté toutes les boites de neurosciences qui comptaient dans le monde, ils comptent avoir fini la cartographie complète du cerveau en 2040, et prétendent être capables d’ici là de dupliquer la totalité d’un esprit humain sur un disque dur (ou l’équivalent de l’époque) !
    Vous avez raison de dire que l’intelligence artificielle ne sera pas humaine : leur projet final, c’est de créer un dieu.
    On peut dire beaucoup de choses de ce projet, qu’il est dingue, que c’est un crime contre l’humanité, qu’il est ridicule, qu’on ne serait plus des hommes, mais une chose est certaine : Google Apple Facebook Amazon et Microsoft ont les moyens de leurs ambitions, et ils ne semblent pas partager votre avis...
    Regardez les gens le matin dans le RER et osez me dire que la connexion homme-machine n’a pas déjà commencé. Puçage prévu pour les années à venir.


    • pemile pemile 9 janvier 2018 18:23

      @Attilax « osez me dire que la connexion homme-machine n’a pas déjà commencé »

      Quel rapport entre la connexion homme-machine (géniale pour les handicapés) et l’IA ?


    • Attilax Attilax 9 janvier 2018 18:58

      @pemile

      Outre la compréhension profonde de notre cerveau, son codage, et les innombrables applications qui pourraient en découler ?
      L’immortalité, avec tout ce qui en découle : le voyage spatial, l’interconnexion des cerveaux clonés, une mémoire commune, que sais-je : une nouvelle évolution ? Pour gérer un esprit humain dans sa totalité, il va bien falloir être capable de développer une IA très balaise ET une connexion homme-machine totale. C’est pas mon opinion, hein, c’est ce que j’ai compris de ce que veulent les différents patrons des GAFA. Enfin, ils ne sont pas d’accord sur tout, mais il y a plein de points communs et de passerelles. et le fait est qu’ils y travaillent d’arrache-pied, et que de nombreux neuro-scientifiques pensent que leurs projets seront réalisables techniquement d’ici quinze ans. On verra bien !


    • Aristide Aristide 9 janvier 2018 19:16

      @Attilax

      Vous avez raison, il y a beaucoup de voie de recherche, de nombreuses aboutiront surement à des impasses, des limites infranchissables, mais d’autres voies seront ouvertes et explorées. Parier aujourd’hui d’une impossibilité de « nature » entre intelligence humaine et IA est me semble t’il très hasardeux.

      Il faudra aussi préciser de quoi on parle en terme d’intelligence humaine et là on n’est pas près d’en voir la fin.



    • pemile pemile 9 janvier 2018 20:33

      @Attilax "Pour gérer un esprit humain dans sa totalité, il va bien falloir être capable de développer une IA très balaise ET une connexion homme-machine totale« 

      Transformez un humain (ou un animal) en zombie et le »piloter« par implants, ou l’inverse, piloter un exo-squelette, semble effectivement sur les rails, mais cela n’a toujours rien à voir avec une »intelligence artificielle"


    • Ouam Ouam 9 janvier 2018 21:27

      @pemile
      parce que ca va avec permile.
       
      comme l’autofocus (l’évolution materielle si tu veut) et le capteur (l’évolution logicielle) bon c’est pas un super exemple mais je cherches un exemple qui allie les deuxs, l’un etant au service de l’autre,
      ou vu autrement lors d’un remplacement d’un membre tu peut te servir de l’ia pour l’anticipation possible du mouvement (l’expertise de l’aquis cad l’optimisation de celui ci) si tu préfere ce 2eme exemple.

      Je me range avec l’avis d’ attilax et hopkins, ils sonts amha dans le dur du sujet,
       c’est un sujet ou il faudra rester tres vigilant.

      les autruches qui n’y croient pas sonts les memes de 100ans en arriere qui ont nié l’existence de la moisonneuse batteuse possible un jour, rivetés au cul de leurs bourrins.


    • Ouam Ouam 9 janvier 2018 21:41

      @Attilax
      c’est juste sur les quinze ans ou je ne vous rejoins pas dans l’analyse....
      je verrai 30 ou plus, mais je peut me gourrer, loin d’affirmer que j’ai raison, ni certitude, je me réfere que au connu de la projection de l’avancement des courbes technologiques habituelles du passé.
       
      Et pour le clonage d’un esprit , je le percoit encore bien plus loin (au mois 50 ou 100)
      car ca deviens tres complexe la notion de conscience et de libre arbitre sans appentissage préalable.

      pour le reste je suis d’accord.


    • pemile pemile 10 janvier 2018 00:08

      @FreeDemocracy « votre propos n’a AUCUN sens »

      Comme votre usage des majuscules ?

      « les handicapés sont l’humanité entière ? »

      Pour les transhumanistes ?


    • Attilax Attilax 10 janvier 2018 00:11

      @pemile
      Je ne parle pas de ça. Je parle d’une puissance de calcul suffisante pour pouvoir reproduire notre système de pensée et le dépasser. C’est quoi l’ADN si ce n’est un code informatique biologique définissant tous nos paramètres ? C’est quoi votre cerveau si ce n’est un processeur, un super-calculateur biologique ? C’est quoi un corps si ce n’est une interface vers l’extérieur et les autres ? Vous saviez qu’il y a un an, ils ont « inventé » deux nouvelles lettres à l’alphabet du génome : X et Y, en plus des traditionnels G, A, T, C. Ils ne savent même pas encore ce qu’ils vont en faire. De nouvelles bactéries, de nouvelles formes de vie semi-artificielles... Les mathématiques sont le langage de Dieu, disent les physiciens. Imaginez qu’on puisse se passer du biologique. Vous vous cassez un bras ? Vous changez la pièce. Plus de maladie, plus de vieillesse, plus de handicap, plus de mort, plus besoin de manger, ni de respirer, ni de pisser ou de chier. C’est un projet assez incroyable, qu’on y adhère ou pas. Et ne me parlez pas de sensibilité ou d’émotions qu’on perdrait : vous croyez vraiment qu’il est impossible de quantifier une émotion et de la reproduire ? C’est quoi une émotion ? De la drogue, libérée par votre cerveau au moment opportun. Calmants, speeds, aphrodisiaques, notre corps est le plus gros producteurs de drogues au monde. On peut transférer ça en algorithmes, ou en tout cas on pourra dans pas longtemps. C’est la Matrice en Marche ! Et en devenant cette saloperie, on va coloniser la galaxie. Enfin ça, c’est ce qu’ils voudraient. Moi je crois surtout qu’on va disparaître, surtout si on crée une IA vraiment balaise et autonome : la première chose qu’elle comprendra, c’est que le problème c’est nous... Même mon gamin de 11 ans l’a déjà compris.


    • pemile pemile 10 janvier 2018 00:27

      @Attilax « C’est quoi l’ADN si ce n’est un code informatique biologique définissant tous nos paramètres ? »

      L’épigénétique nous montre que c’est bien plus que ça.

      « Je parle d’une puissance de calcul suffisante pour pouvoir reproduire notre système de pensée et le dépasser »

      Je ne pense pas que la vie, sa capacité à évoluer et à perdurer depuis quelques milliards d’années, a quoi que ce soit à voir avec une « puissance de calcul »


    • Attilax Attilax 10 janvier 2018 02:03

      @pemile

      Ah bon ? L’ADN n’est pas un code de programmation (les OGM n’existent pas) et l’intelligence humaine n’a rien à voir avec la puissance de calcul du cerveau (on bat un ordi fastoche aux échecs) ? Petit rigolo !

      Alors pourquoi parviennent-ils à le reproduire et à l’améliorer ?
      Pourquoi investissent-ils des milliards pour fabriquer des processeurs quantiques, si ce n’est pour faire tourner leurs réseaux de puces neuronales ?
      Pourquoi font ils une cartographie complète du cerveau ?
      Pourquoi le groupe Bilderberg pense-t-il remplacer 80% des métiers actuels par des IA d’ici 20 ans, y compris les métiers « intellectuels » ?
      Il faudrait vite leur dire que la puissance de calcul ne sert à rien, ils vous en seront tous reconnaissants à l’ère des big datas et des simulations quantiques permettant de comprendre, par exemple, la création de l’univers.
      Vous me parlez de vie biologique, moi je vous parle de vie artificielle. Je pense donc je suis, vous vous rappelez ? Une maxime cartésienne bien française qui va se révéler plus d’actualité que jamais dans les années à venir... L’évolution continuera, mais elle sera cartésienne et plus seulement biologique. Pourquoi pas ? C’est pas plus con qu’autre chose...


    • pemile pemile 10 janvier 2018 04:46

      @Attilax « L’ADN n’est pas un code de programmation »

      Non, c’est plutôt de l’information utilisée par la cellule pour synthétiser des molécules.

      Un neurone est une cellule contenant le même code génétique qu’une cellule du foie, du coeur ou de la peau.

      « Petit rigolo ! »

      Merci de revenir au sujet, le rire, l’humour ou l’agressivité sont de très bons exemples qui sortent du domaine de la puissance de calcul, qui serait pour vous, la base de l’IA smiley (Mais l’est pour le calcul statistique comme le rappelle Ciriaco)


    • Aristide Aristide 10 janvier 2018 11:29

      @pemile


      Je crois que le sujet posé par l’article est faussé par la position ridicule consistant à poser des postulats, des limites indépassables, ... 

      Actuellement nous sommes au tout début de l’IA, de nouvelles pistes étaient limitées par les techniques, depuis l’augmentation de la puissance de calcul on a vu la « force brute » utilisée pour défier des champions d’échecs ou de go et gagner. Mais bien sur dans un domaine ou cette force est efficace : un jeu aux règles fixes, des stratégies connues, ... Force brute assez inutile quand il s’agit de système complexes aux régles variables, où l’apprentissage est important, ...

      Sur d’autres domains, les systèmes experts à base de moteur d’inférence permettent de donner une expertise à des opérateurs qui ont à construire des processus complexes. J’ai dans un passé récent mis en place un système expert pour guider les opérateurs dans la résolution de pannes sur un système informatique, pannes d’exploitation.

      Enfin, on voit bien que les circuits neuronaux, le deep learning et autres voies avancent et offrent déjà services, faillibles bien sur, ... Des échecs ou des impasses surement.

      Il est à parier que toutes ces voies fourniront des opportunités pour faire que l’IA sortent des laboratoires. Comme on commence à voir sortir les systèmes de conduite automobile autonome, la reconnaissance faciale, les aides aux opérations chirurgicales, ... 

    • Christian Labrune Christian Labrune 10 janvier 2018 11:39

      Et ne me parlez pas de sensibilité ou d’émotions qu’on perdrait : vous croyez vraiment qu’il est impossible de quantifier une émotion et de la reproduire ? C’est quoi une émotion ?
      ...................................................................... ............
      @Attilax
      Je suis tout à fait d’accord avec votre propos, comme devrait l’être n’importe quel esprit curieux qui se serait efforcé de comprendre quelque chose à l’informatique.

      Le problème, quand on regarde ce qui s’écrit sur l’IA, c’est que nos contemporains, malgré quantité de publications et même de documentaires destinés à la vulgarisation, n’ont toujours rien compris aux principes de base sur lesquels reposent les avancées techniques dont nous sommes témoins. Durant ces cinq dernières années, depuis les algorithmes d’analyse des big data, des progrès décisifs et tout à fait inattendus ont été réalisés dont la plupart de nos contemporains n’ont pas la moindre idée.

      Nous ne sommes déjà plus des homo sapiens, nous sommes déjà des hommes « augmentés » et je pense aussi que l’humanité telle qu’elle est n’ira plus bien loin, sans voir pour autant dans l’émergence probable d’une IA forte avant le milieu de ce siècle une sorte d’apocalypse : les grands rêves génocidaires sont nés dans des cervelles extrêmement primitives rongées par les passions tristes qui affectent la créature accablée de sa propre impuissance. L’homme biologique est appelé à disparaître assez vite, mais l’intelligence et la connaissance progresseront, ce qui est bien l’essentiel. Parodiant Verlaine, j’oserai dire : qu’importe le support, pourvu qu’on ait l’intelligence.
       


    • Aristide Aristide 10 janvier 2018 11:46

      @Christian Labrune

      Durant ces cinq dernières années, depuis les algorithmes d’analyse des big data, des progrès décisifs et tout à fait inattendus ont été réalisés dont la plupart de nos contemporains n’ont pas la moindre idée.


      Et malheureusement des articles sont publiés ici par des auteurs qui sont dans ce cas de méconnaissance complète du sujet..

    • pemile pemile 10 janvier 2018 12:04

      @Aristide « Enfin, on voit bien que les circuits neuronaux, le deep learning et autres voies avancent et offrent déjà services »

      Bien d’accord, ce sont des nouveaux outils utiles.


    • Christian Labrune Christian Labrune 10 janvier 2018 12:27

      Et malheureusement des articles sont publiés ici par des auteurs qui sont dans ce cas de méconnaissance complète du sujet..
      ...................................................................... ................

      @Aristide
      Oui, et c’est ce qui est affligeant. On croit pouvoir parler de tout sans même avoir étudié, en se fiant comme le Sganarelle de Molière à son « petit sens ». Mais le résultat est grotesque. Je me demande, connaissant deux ou trois mots de chinois appris dans les bistrots de mon quartier, si je ne vais pas publier demain sur ce site un article concernant les subtilités de la grammaire chinoise et son évolution depuis la dynastie des Tang (pour commencer !). C’est une langue qui est peu connue -malheureusement !-, et très peu de lecteurs oseront donc me contredire.


    • Taverne Taverne 10 janvier 2018 12:32

      @Christian Labrune

      La philosophie traite de tout. Vous ne le saviez pas ? Malheureusement des commentaires sont publiés ici par des commentateurs qui sont dans la méconnaissance complète de ce qu’est la philosophie.


    • pemile pemile 10 janvier 2018 12:50

      @Christian Labrune " On croit pouvoir parler de tout sans même avoir étudié [...]. Mais le résultat est grotesque"

      Le grotesque c’est de déclarer qu’il faut étudier en regardant la télévision ! smiley


    • Christian Labrune Christian Labrune 10 janvier 2018 14:28

      La philosophie traite de tout
      ====================================
      @Taverne
      Non. La philosophie traite de ce qu’elle peut connaître. La question primordiale de la philosophie kantienne, c’est « Que puis-je connaître », et aucun philosophe n’a jamais prétendu disposer de la science infuse, à la manière du Sganarelle que j’évoquais plus haut et qui, avec son petit sens, (nous dirions aujourd’hui son bon sens) prétend qu’il en connaît plus que tous les savants réunis. Je cite de mémoire, mais c’est à peu près ça.

      A l’entrée de l’Académie, Platon aurait fait écrire « nul n’entre ici s’il n’est géomètre », parce que s’il y a un domaine dans lequel il n’est pas possible de penser n’importe quoi, c’est bien les mathématiques, lesquelles sont une école de rigueur intellectuelle.

      Peut-être faudrait-il, à la manière du Descartes des Méditations, s’interroger sur ce qu’on sait ou croit savoir, et sans aller nécessairement jusqu’au doute hyperbolique, commencer à faire un tri entre ce qu’on croit vaguement savoir et ce qu’on pense lorsqu’on est en quête d’un l’apodicticité à l’opposé de toute illusion subjective.

      L’IA forte est pour l’instant une hypothèse théorique raisonnable, comme il était raisonnable de penser à l’époque de Clément Ader qu’on pourrait faire voler un jour des appareils plus lourds que l’air. On n’y est pas encore. Il est donc absurde de poser que l’IA forte, qui n’existe pas, serait inférieure à l’intelligence humaine quand on a posé comme un axiome qu’elle DEVRAIT ETRE, pour mériter cette définition, AU MOINS EGALE à celle de l’homme. Si l’IA forte est inférieure à l’intelligence humaine, c’est qu’elle est l’IA faible, et non pas l’IA forte. Partant de cette confusion, c’est comme si vous vous amusiez à construire sur le sable d’une plage soumise à l’érosion, et sans fondations, une tour de cinquante étages.


    • Christian Labrune Christian Labrune 10 janvier 2018 14:30

      ERRATUM
      ce qu’on pense lorsqu’on est en quête d’un l’apodicticité à l’opposé de toute illusion subjective.
      JE CORRIGE :
      ce qu’on pense lorsqu’on est en quête d’une apodicticité à l’opposé de toute illusion subjective.
      Excuses.


    • pemile pemile 10 janvier 2018 14:33

      @Christian Labrune « L’IA forte est pour l’instant une hypothèse théorique raisonnable »

      Vous voulez dire « probable » ?


    • Taverne Taverne 10 janvier 2018 15:07

      @Christian Labrune

      Vous écrivez : « Il est donc absurde de poser que l’IA forte, qui n’existe pas, serait inférieure à l’intelligence humaine ».

      Je n’ai pas parlé en termes de rapport de supériorité. Et pour cause, les deux intelligences sont de natures différentes. Or, on ne compare que des choses de même nature. L’intelligence humaine est vivante et naturelle, l’IA est artificielle, fabriquée.

      Vous dites que les mathématiques requièrent de la rigueur mais les maths ne sont que des répétitions de règles. La philosophie exige une prudence dans les définitions de concepts et dans la justesse des arguments que l’on avance. 

      On peut dire que sous différents rapports, l’IA reste inférieure à la pensée humaine : tout ce qui relève du contact direct avec le vivant (amour, émotion, etc.).


    • JL JL 10 janvier 2018 15:07

      @Christian Labrune,
       
      je pense que, si un jour une IA s’émancipait au point de faire croire à l’apparition d’une conscience, donc d’un moi, ce serait une sorte de moi « as if », un « faux self » (*).
       
       Je crois que Taverne a vu assez juste en parlant d’autisme.
       
      (*) "Personnalité pathologique qui réalise une normalité de façade, voire une hypernormalité, contrastant avec une certaine pauvreté de la vie émotionnelle et avec des défenses dominées par l’intellectualisation (H. Deutsch, 1942)".
       
      J’ajoute : non pas pauvreté de la vie émotionnelle, mais absence totale ; et donc, un fonctionnement hystérique. cf. les neurones miroirs et les modèles d’identification.


    • Attilax Attilax 10 janvier 2018 17:59

      @pemile
      « Non, c’est plutôt de l’information utilisée par la cellule pour synthétiser des molécules. »

      Parce qu’un un code, ce n’est pas de l’information destinée à être utilisée par un périphérique tiers ?

      Allez, j’arrête là.


    • Ciriaco Ciriaco 11 janvier 2018 01:28

      @Attilax
      N’importe quelle machine des années 80 est très largement au-dessus de la capacité calculatoire humaine. Toute machine, a fortiori toute IA, est équivalente à une machine de Turing. Nous parlons donc seulement de vitesse d’exécution. Pour parler d’intelligence, il faut donc se demander préalablement ce qu’est un calcul et ce qu’il n’est pas.


      Première constatation, il y a énormément de choses qu’on ne sait pas faire avec du calcul (sans modèle et sans simulation : la douleur, le plaisir, etc.).
      Deuxième constatation, si la métaphore « réseaux neuronaux » (pas inutile de rappeler que les IA dites à réseaux de neurones ne sont pas des réseaux de neurones, ni même leur simulation, se rapprochant en fait plus de la statistique) est utile à une certaine démagogie, parmi tout ce que ne savent pas faire les calculs, les IA ne savent actuellement pas générer de l’émergence interne. L’émergence externe que co-crée une IA est une relation avec une capacité humaine. Sans cela, une IA tourne seule comme un astre mort.

      A ma connaissance il n’existe pas de leviers théoriques pour dire qu’il est possible qu’une émergence interne puisse faire passer du monde du calculable au monde du non-calculable (mais ces deux notions sont formellement tout à fait connus). Sans cela, aucune intelligence possible.

      Pour parenthèse, la cartographie des éléments unitaires n’apportent aucune connaissance sur les nombreux niveaux d’organisation nécessaires à ces émergences.

      Il y a des problèmes de fond. Théorique, mais aussi philosophique. Il y a un parti pris fortement idéologique - voir mythologique - dans le sens où il est imprégné d’une longue histoire humaine, celle de la science et de l’économie, qui oeuvrent toutes deux par décomposition de la nature et recomposition par systèmes symboliques. Ce problème là, c’est celui de la nature de la cohabitation, la question de l’environnement.

      Imaginons que les leviers théoriques soient levés, imaginons en conséquence que l’homme transhumaniste voit sa conscience transformée (car c’est cela, en fait, la question d’un environnement technologique) ; je parierais bien une bière que nos transhumanistes découvrent le rôle fondamental de l’environnement, comme cro-magnon sortant de sa caverne, dans toute intelligence avant qu’il ne soit détruit, technicisé et calculé, et elle avec.

    • Ciriaco Ciriaco 11 janvier 2018 01:59

      @Ciriaco
      J’ajoute qu’avant la deuxième, je parierais également ma première bière sur le fait que les leviers théoriques nécessaires à prouver une émergence du calculable au non-calculable fassent partie des problèmes non-calculables.


      Comme ça fait beaucoup de bière et que je suis vite rond, je me dis que finalement cette fin du monde transhumaniste, de l’ordre du théoriquement sensible, pourrait bien ressembler (quel cynisme final !), à un jeu de la vie tournant en boucle dans toutes les IA, sur nos cadavres répandus.

      Hips, tant qu’il est temps smiley

    • Attilax Attilax 11 janvier 2018 02:15

      @Ciriaco

      Très juste ! Je ne peux qu’approuver. Avec une réserve néanmoins : les simulations et modèles nécessaires à la modélisation du plaisir ou de la douleur sont aussi du calcul smiley
      C’est également pour toutes ces raisons que je pense que l’IA et l’humain vont être étroitement imbriqués, l’un ayant besoin de l’autre pour toutes les raisons précitées (si ce projet de malades voit le jour ce qui n’est pas évident). Autre chose : la courbe technologique est exponentielle. Il est donc aujourd’hui difficile de prévoir ce qui va « sortir » dans les décennies à venir, en dehors des gros projets identifiables. Les hypothèses d’hier ont tendance à devenir les réalités de demain. Pas toutes, certes, mais il suffit de quelques-unes qui s’imposent pour tout remettre en cause et changer notre vision de monde... 

    • Ciriaco Ciriaco 11 janvier 2018 02:45

      @Attilax
      C’est pour ça que j’insiste sur les aspects théoriques. Quand j’en discute avec mes contemporains, je m’aperçois qu’ils confondent assez largement sciences et technologies. La seule perspective de dépassement théorique, c’est la machine quantique. Oubliez l’IA, même le Deep Learning ; ce sont des machines de Turing avec leurs limites sur la calculabilité.


      Je me suis laissé dire que les machines quantiques contenaient les machines théoriques de Turing, mais je crois que rien n’a été prouvé sur l’inverse. Ce serait une grande avancée que d’en savoir plus sur cette question. Ayant quitté la fac depuis lurette, et pour voir la différence entre ce que j’ai appris et ce qui est dit couramment, je ne donne pas un broc à la com actuelle en ce qui concerne ces machines.

      Appel à recherche : qui aurait une info viable sur l’équivalence Turing / Quantique ?

      Allez je file au dodos ! Bonne nuit !


    • pemile pemile 11 janvier 2018 11:09

      @Attilax « Parce qu’un un code, ce n’est pas de l’information destinée à être utilisée par un périphérique tiers ? Allez, j’arrête là. »

      Cela ne fait toujours pas de l’ADN « un code de programmation » et l’intelligence humaine n’a rien à voir avec la puissance de calcul du cerveau smiley


  • leypanou 9 janvier 2018 18:10

    Alors qu’elle pourrait lutter plus efficacement contre l’immigration non légitime et non souhaitable si elle savait raison garder.  : on ne savait pas les bayroutistes aussi obsédés par l’immigration (comme les FNeux, mais dans l’autre sens).

    Essayer de relier la notion de juste avec l’IA c’est montrer qu’on n’a pas beaucoup compris comment fonctionne un système expert, qui, pour schématiser, ne peut recracher que ce qu’on lui a fait ingurgiter.


    • Aristide Aristide 9 janvier 2018 19:12

      @leypanou


       ne peut recracher que ce qu’on lui a fait ingurgiter.


      Permettez que je complète par « que l’on lui a fait ingurgiter en expériences multiples pour adapter son comportement, ses réactions, ses jugements, .... ». Et comme pour l’homme essayer d’apprendre en permanence de toutes ses expériences.

  • Ciriaco Ciriaco 9 janvier 2018 21:09

    Lorsque j’étais étudiant un prof nous avait démontré l’équivalence formelle entre analyse statistique et réseaux de neurones. Les développements ultérieurs (Deep Learning) sont le fruit de la spécialisation techno-économique des réseaux de neurones. Formellement, ils sont équivalent aux méthodes statistiques traditionnelles, mais leur application est plus aisée car elle nécessite moins d’informations a priori. En gros, les évolutions à forte publicité de l’IA sont ce que sont les maths appliquées aux mathématiques : l’usage de techniques. Ce qui n’en réduit pas l’aspect parfois profond (on va assez loin dans ce domaine depuis longtemps, un très bel exemple ici, mais faire le rapprochement avec une intelligence humaine est faire le pas dans le mauvais sens).


    Il y a beaucoup de fantasmes à ce sujet. On parle par exemple d’auto-référence (auto-apprentissage), mais en fait l’architecture n’est pas apprise par la machine, c’est l’humain qui intervient laborieusement (d’ailleurs la conduite des apprentissages des machines donnera probablement lieu à de nouveaux métiers d’ici peu).

    Je me garderais bien d’approcher la question via un essentialisme, mais plutôt de simplement remarquer ici que l’IA, et ceci depuis qu’elle est née, s’établit sur un modèle téléologique (pas d’IA sans finalité humaine), vieille conception métaphysique. Pas si étrange !

    • Taverne Taverne 9 janvier 2018 21:47

      @Ciriaco

      Une question que je me pose : peut-on doter l’IA de neurones-miroirs, ces fameux neurones de l’empathie ?


    • pemile pemile 9 janvier 2018 22:21

      @Taverne « peut-on doter l’IA de neurones-miroirs, ces fameux neurones de l’empathie ? »

      Peut-on déjà doter l’IA, de sens commun ?

      Yann Lecun, octobre 2017, cite Josh Tennenbaum : « Tous les systèmes d’IA que vous voyez, aucun n’est vraiment de l’IA »


    • Ciriaco Ciriaco 9 janvier 2018 22:30

      @Taverne
      On peut faire des modèles, sans aucun doute. La question que vous posez est celle de la dynamique de la réalité/perception/réalité. C’est un noeud gordien qui a son histoire dans beaucoup de littératures (c’est d’ailleurs passionnant).


      De manière plus formelle, on peut créer des systèmes de perception/codage/réaction, comme des automatismes, émergents ou non, en ayant pour objectif qu’ils se comportent de telle ou telle manière. Ce n’est pas réellement difficile.

      Aborder la proprioception, plus au coeur de la question, est immensément plus dur. Je le dis sous forme de boutade, mais c’est un peu mon sentiment : si vous voulez créer de l’intelligence, faites des bébés (et occupez-vous en bien) ^^

    • pemile pemile 9 janvier 2018 22:43

      @Ciriaco « si vous voulez créer de l’intelligence, faites des bébés (et occupez-vous en bien) ^^ »

      Ce n’est pas brevetable, ça n’intéresse pas les investisseurs smiley


    • Ciriaco Ciriaco 9 janvier 2018 22:46

      @pemile
       smiley


    • velosolex velosolex 9 janvier 2018 23:43

      @Taverne
      Personnellement je pense qu’il est plus simple de les équiper de rétroviseurs. 

      Surtout pour la marche arrière. 

      Pour les neurones miroirs, il faut voir si on peut mettre cette qualité d’âme dans le coffre
      Pour nous elle nous tiendrait lieu de roue de secours !

      Car au cas où ils se facheraient tout rouge
      Ils ne seraient pas insensible ainsi à notre sort 
      En nous voyant sortir nos mouchoirs !

    • Taverne Taverne 9 janvier 2018 23:51

      @velosolex

      Des rétroviseurs ? Voici une petite chanson. L’IA peut-elle en faire autant ? Je vous laisse méditer là-dessus, bonne nuit ! « Z’à tous Z’et t’à toutes. »

      Les neurones miroirs

      On dit que les neurones miroirs
      Créent chez les gens de l’empathie.
      C’est ce qu’on veut nous faire croire
      Mais les miroirs, on en pâtit !

      Les miroirs neurones sans tain,
      Ils nous espionnent, c’est certain.
      Est-ce qu’on n’est pas dans le viseur
      D’un neurone rétroviseur ?

      Les neurones miroirs vitrines
      Sont plus beaux que ceux des latrines
      Mais ce miroir aux alouettes
      Nous plume la bourse et la tête !

      La foule est un palais des glaces :
      Des neurones miroirs partout !
      Mais je dois dire que malgré tout,
      Ces miroirs me laissent de glace.

      Les neurones miroirs concaves
      Se réunissent en conclaves.
      Mais il est des miroirs qu’on vexe
      Facilement : c’est les convexes !
       
      Et combien d’années de malheur
      Si l’on en brise un par erreur ?
      Ça la science ne le dit pas
      La science ne réfléchit pas !


    • arthes arthes 10 janvier 2018 07:32

      @Taverne

      L empathie ??? Dans une machine ?

      Et pourquoi pas de l amour, de l amour de l amour ?

      Une ame et un esprit tant qu on y est.

      Mais en fin de compte, la ou l IA surpasse l humain, outre son intelligence mecanique (et je dis bien mecanique, qui s articule comme celle de l humain a la pensee mecanique) ce qui est admirable et superieur dans la machine c est : La volonte.

      La ou l humain aura des faiblesses, coup de blues, burn out, hesitations, scrupules, remords ou voudra prendre en compte ce rtains facteurs humains pour prebdre decision etc...L IA n aura aucun etat d ame.



    • JL JL 10 janvier 2018 09:23

      @arthes
       
       il ne faut pas parler de volonté au sujet des machines, mais d’obstination.
       
      La bêtise est têtue ; l’intelligence est volontaire. Nuance.
       
      L’empathie présuppose la conscience, mais pas que. Et la conscience c’est la vie. La créature de Frankenstein était bien plus proche de la vie que ne sont les machines.
       


    • Taverne Taverne 10 janvier 2018 09:45

      @arthes

      Une volonté infaillible sans aucune empathie, voilà qui est terrifiant.

      La personne humaine n’a pas une volonté inépuisable : théorie psychologique de l’épuisement de la volonté. Cette théorie est aujourd’hui relativisée : voir ici. Mais on sait que beaucoup de décisions résultent de l’épuisement de la volonté. Angela Merkel a ainsi la réputation d’obtenir ce qu’elle veut en soumettant ses contradicteurs à d’interminables séances de discussion et c’est elle qui obtient ainsi le dernier mot. Quand l’homme fléchit, l’IA, elle, poursuit inlassablement son chemin.


    • arthes arthes 10 janvier 2018 10:08

      @JL
      L empathie presuppose l esprit surtout.


      L intelligence n a pas besoin de conscience, elle peut etre mecanique, il suffit d appliquer des theories apprise ingurgitees sans reflechir a autre chose qu appliquer a la lettre...Chez les humains c est ce qui s appelle la pensee mecanique et qui donne les idiots specialises.

      Rabelais l avait compris : Science sans conscience n est que ruine de l ame" 


    • JL JL 10 janvier 2018 10:40


      @Taverne,
       
      ’’Angela Merkel a ainsi la réputation d’obtenir ce qu’elle veut en soumettant ses contradicteurs à d’interminables séances de discussion et c’est elle qui obtient ainsi le dernier mot.’’

       Pour vous répondre, ces citations :
       
       « L’opiniâtreté est le signe exprès de la bêtise ». Montaigne, les Essais,
       
      « L’ennui dans ce monde, c’est que les idiots sont sûrs d’eux et les gens sensés pleins de doutes. » Bertrand Russell
       
       J’aime aussi cette formule, que j’ai découvert ce matin, grâce à Rincevent  : ’’La personne qui, n’ayant lu qu’un seul livre, est extrêmement ferme et intransigeante sur les opinions qu’elle soutient. Type de l’individu péremptoire et sûr d’avoir raison, qui ne revient jamais sur son avis."
       
      Angela Merkel n’a certes pas lu un seul livre, et n’est pas idiote, non : mais elle sert un seul maître. Il en est de même des machines, qui ne font jamais dans la nuance.
       
      Il est parfois difficile de faire la distinction entre un idiot et un pervers narcissique.
       
      Ps. Il ne faut pas confondre détail et nuance qui n’ont par définition en commun que le caractère infinitésimal.


    • JL JL 10 janvier 2018 10:44

      @arthes
       
       vous avez une définition de l’intelligence qui n’est pas la mienne.
       


    • JL JL 10 janvier 2018 10:50

    • arthes arthes 10 janvier 2018 15:17

      @JL

      Certes.

      Et je pense aussi que celle que j evoque est celle attribuee a l IA.

      N en demeure pas moins que Rabelais a raison et que les principes de management dans vos exemples sont des theories mecaniques , je ne pretends pas qu elles soient exemptes de bon sens, mais ...Theoriques, elles s adressent juste a l intelligence , a la capacite de rationaliser, au cerveau, a l intellect quoi.

      Elles peuvent etre anonees avec autant de vide de la part d un humain que lorsqu on les lit sur un ecran.


  • velosolex velosolex 9 janvier 2018 23:33

     « le juste étant une nécessité vitale collective ». Qu’est ce que vous entendez par juste, la notion de justice, ou celle de point idéal et d’équilibre.....Si c’est cette dernière, c’est simplement de l’atavisme. Si c’est la première, ça signifie que l’individu doit s’aligner sur les autres, on est dans le meilleur des mondes d’orwell, avec une justice déterminée une bonne fois pour toute, donc un parodie de justice, excluant l’individu et son particularisme

    « Revenons à la thèse de Damasio. Cet auteur dit aussi que l’être vivant, tout comme le corps social, ne se transforme que lorsque sa survie l’exige. » C’est donc du Darwinisme tout simplement.... Seulement je pense que si le stress est lié à l’instinct de survie, toute l’activité va aller dans ce sens. 
    Il faut des situations de confort pour que l’intelligence et la fécondité ait le temps et la faculté de s’épanouir. 
    Les grandes inventions coïncident ainsi à des périodes de prospérité. Quand on se mit à construire des cathédrales, c’est que l’homme ne pense plus qu’à sa nourriture, et a amélioré les techniques agricoles, pour dégager de la liberté. 


  • velosolex velosolex 9 janvier 2018 23:37
    Pour le reste, ne faite vous pas dans l’exorcisme, c’est à dire le déni du progrès alarmant ou non de ces machines que j’ai bien du mal à concevoir, si ce n’est qu’elles sont redoutables, et que les auteurs de Sciences fiction ont bien du mal maintenant à suivre. 
    Nous réfutons la capacité d’émotion et de progrès aux robots car cela nous est proprement insupportable. Cela voudrait dire au cas où les progrès parviendraient à les faire émerger à ce stade que nous sommes leurs alter ego, c’est à dire des machines. 
    Le même problème s’est posé quand il a fallu peser la condition animale. Horreur ! Serions nous des animaux ? Descartes nous a rassuré, les a transformer en robots insensibles, et ce faisant avec le temps s’est ridiculisé. Qu’un grand esprit soit si petit est somme toute assez courant. Voyez le cas Heidegger !
    Pour quelle étrange raison sommes nous persuadés d’être au fait de la création, cherchant cependant à améliorer celle ci, tout en voulant garder la mise, le volant, et les certitudes ?.... 
    Il y a là une grande névrose et un questionnement dont ma calculette n’a pas la réponse. Mais elle est bien vieille, j’y suis attaché, et j’ai bien peur qu’elle se ferait ridiculisé par les modèles qui vont sortir, et qui frétilleront de donner la réponse.

    • pemile pemile 10 janvier 2018 00:18

      @velosolex « que les auteurs de Sciences fiction ont bien du mal maintenant à suivre. »

      Le cerveau positronique d’Asimov conserve toujours ses 50 ans d’avance !


    • velosolex velosolex 10 janvier 2018 01:10

      @FreeDemocracy

      Bonsoir
      Einstein a dit qu’il existait deux domaines infinies : L’espace, et la connerie humaine ; Mais pour l’espace, il n’en était pas sûr. 
      Je crois que c’est lui qui a dit aussi que pour marcher au pas, un cervelet suffisait. 
      Ce type était bon en tout !
      Peut être pas en vélo, quand même.
      Quand un robot sera capable de faire une bonne blague, non, pas une blague, mais de l’humour, du vrai, cette capacité de faire soulever la soupape de compression des cerveaux, et de nous emmener vers les espaces temps sidéraux de ce sentiment sentiment d’absurdité et de compréhension universelle, au delà du langage même, alors j’aurais vraiment peur. 

      Je ne crois pas en l’intelligence artificielle, car les deux termes sont antinomiques ; 
      Mais j’ai bien peur que beaucoup s’en contenteront. 
      Et au vue de la régression intellectuelle de beaucoup, tant au niveau du langage que de la vie collective, j’ai bien peur qu’au salon de la rencontre idéale, la cliente ne soit tentée par les nouveaux modèles. 
      Tant qu’à avoir affaire à un robot, exigez le véritable !

    • velosolex velosolex 10 janvier 2018 01:25

      @pemile

      Je me demande si dans la chanson de Rolland celui ci n’est pas inspiré par son épée Durandal, ce monolithe déjà situé aux portes de l’espace. 

      Il y a bien longtemps que je n’ai pas lu Asimov. Les auteurs de SF font actuellement dans le catastrophisme. Ils semblent regarder l’univers comme un cul de sac..Le premier qui m’émerveilla ce faut Jonathon Swift, avec son « Gulliver »et ses voyages homériques à la mode Orwellienne 
      Le grand, le petit., le relatif.... Déjà deux siècles avant « la planète des singes », il nous parle de la relativité de l’intelligence, et sur une planète, je veux dire sur un île, il place de merveilleux chevaux, parlant, philosophant, prenant presque le thé, et gardant accessoirement dans des enclos des animaux stupides : Les hommes....
      Manara en a fait une très belle adaptation avec beaucoup de liberté, et en améliorant le dessin....Gulliverama...
      Gullivera on Vimeo
      Une belle géante bien roulée, montée sur ses deux jambes et regardant les petits d’un air narquois. Dieu que le monde est joli !..on en oublie l’intelligence artificielle quand la notre se met en mode débrayage !

  • Christian Labrune Christian Labrune 10 janvier 2018 10:58

    L’IA même forte est loin de pouvoir prétendre égaler l’esprit humain et même animal.
    ===============================================
    @Taverne

    Ca commence vraiment très mal : l’IA forte, par définition, c’est une intelligence artificielle qui, à la différence de l’IA faible, serait parvenue à la parité avec celle de l’homme. Cette parité ne peut pas durer : l’intelligence humaine n’a pas sensiblement progressé depuis des millénaires. Celle d’une machine arrivée à un tel stade se complexifie à grande vitesse. Ce qui veut dire que si on atteignait ce moment que les post-humanistes appellent « singularité », trois mois plus tard l’intelligence humaine serait déjà très loin derrière.

    La notion de « singularité » a été pensée pour la première fois au début des années 50 par Von Neumann qui est le génial inventeur de la structure de nos machines actuelles, avec séparation des data et du programme. Le bonhomme n’avait rien d’un rêveur ou d’un auteur de science-fiction. Il savait très bien de quoi il parlait.


  • Christian Labrune Christian Labrune 10 janvier 2018 11:08

    ce qu’il faut avoir en tête pour reste dans le sujet, c’est que l’IA est encore moins apte que les êtres humains à apprécier les situations et à leur appliquer des réponses justes. L’IA n’étant pas d’origine naturelle, le juste est une notion qui lui échappe à jamais.
    =========================================
    Cela n’a absolument aucun sens. Un système artificiel, sans même songer à l’IA forte, est tout à fait capable de simuler n’importe quel comportement, même ceux qui reposent sur des affects. Dans son bouquin où il définissait un cahier des charges pour une machine pensante, Alain Cardon qui est un spécialiste reconnu de l’IA, envisage de faire en sorte qu’une machine puisse éprouver de la peur, il conçoit même, ce qui me paraît tout à fait inutile et absurde, qu’elle dispose d’un inconscient.
    J’ai employé par provocation le verbe « simuler » pour que vous pensiez qu’un tel comportement n’aurait rien d’authentique, mais nos comportements affectifs sont aussi le fruit d’une programmation sociale : le présentateur des informations télévisées qui évoque un tremblement de terre à l’autre bout du monde prend immédiatement une tête de circonstance, même si cela ne le touche pas directement. Sur la « sincérité » des comportements, les moralistes ont déjà écrit tout ce qu’il convient de savoir.


  • Christian Labrune Christian Labrune 10 janvier 2018 11:18

    @Taverne

    J’ai survolé la fin de l’article où il est question des « manques » d’une intelligence qui ne serait pas humaine.

    Une intelligence de cette sorte n’aura pas grand chose à voir avec la nôtre : elle n’oubliera rien, elle pourra « écouter » et comprendre en quelques secondes toute l’oeuvre de Jean-Sébastien Bach, voir en temps réel des milliers de sites sur la planète et même sur d’autres moyennant un certain délai.

    Certes, elle ne sera pas mortelle. Quel manque, en effet : la mort, ça vous enchante ?
    Et il n’y aura pas DES machines (vous diriez des robots), mais une seule, avec une infinité de dispositifs périphériques munis d’une autonomie mais qui lui seront reliés : pas difficile à concevoir : l’Internet existe déjà.

    La grande questions de la philosophie, c’est celle de l’incommunicabilité des consciences.
    Quand il n’y en a plus qu’une, le problème est tout de suite résolu.


    • pemile pemile 10 janvier 2018 11:26

      @Christian Labrune « elle n’oubliera rien »

      Normal, elle ne comprend rien smiley


    • Taverne Taverne 10 janvier 2018 11:26

      @Christian Labrune

      Parfaitement, j’ai souligné des manques mais je ne les ai pas tous cités. J’aurais pu ajouter l’ignorance chez la machine de l’idée de complémentarité. Tout être vivant a besoin de complémentarité, de « complétude », non seulement parce que les sexes se complètent entre eux mais parce que aucun être n’est totalement autonome. Il a besoin des autres membres de son espèce mais aussi des autres espèces. Qu’adviendra-t-il de nous quand une intelligence totalement autonome et certaine d’avoir toujours raison, jamais contredite, parce qu’elle ne dépendra de personne, décidera à notre place ? Ce genre d’intelligence dite à tort « supérieure » n’est pas rassurant.


    • Taverne Taverne 10 janvier 2018 11:33

      Sans oublier l’art suprême de l’Homme : le mensonge.

      Je l’attends, moi, votre singularité  ! L’être humain a non seulement cette faculté qui lui est propre et illimitée mais il peut recourir à des capacités que la machine n’a pas dont l’intuition, la créativité, l’imagination, la poésie, la pensée philosophique. Il peut jongler avec tout cela à la fois. « Comment je vais te l’embrouiller », moi, votre intelligence artificielle « supérieure » ! Elle ira pleurer dans les jupes de son créateur.


    • Taverne Taverne 10 janvier 2018 11:45

      @pemile

      L’IA est une forme d’autisme créé artificiellement : elle n’est accessible qu’au premier degré.


    • Christian Labrune Christian Labrune 10 janvier 2018 11:48

      Tout être vivant a besoin de complémentarité, de « complétude », non seulement parce que les sexes se complètent entre eux mais parce que aucun être n’est totalement autonome.

      @Taverne
      La machine intelligente n’a pas besoin de sexe pour se reproduire ! Elle conçoit et réalise les circuits qui lui sont nécessaires pour se complexifier. Il faut sortir de l’anthropomorphisme : il pourra exister des machines qui auront une apparence humaine et réagiront comme nous, avec lesquelles, dans moins de vingt ans, on pourra avoir des relations sexuelles tout à fait satisfaisantes, mais à terme, tout cela aura disparu. la forme même du corps humain, dans deux ou trois siècle, ne sera plus qu’un lointain souvenir.


    • Taverne Taverne 10 janvier 2018 11:54

      @Christian Labrune

      Le sexe n’est ici qu’un exemple. Il y a aussi l’interaction des individus, l’esprit de solidarité. Et enfin, l’amour ! Tout cela relève de la complémentarité entre les êtres.


    • Aristide Aristide 10 janvier 2018 11:55

      @Taverne

      Comment pouvez vous etre aussi péremptoire. C’est étonnant de voir cette propension à ignorer toute information qui viendrait mettre quelques bémols à votre position définitive.

      Par exemple, vous savez que l’homme est avant tout social, qu’il est avant tout le résultat de son éducation, ses expériences, ses apprentissages,... 

      Comment pouvez vous ignorer que l’essentiel des recherches sur l’IA concernent justement ces aspects. 


    • Christian Labrune Christian Labrune 10 janvier 2018 11:59

      L’IA est une forme d’autisme créé artificiellement : elle n’est accessible qu’au premier degré.
      ==============================================
      @Taverne
      Vous écrivez à peu près n’importe quoi. C’est un peu comme si les grandes créatures du crétacé, tyrannosaurus rex, par exemple, prévoyant l’émergence de l’homme dans le mouvement de l’évolution naturelle, s’étaient gaussées de l’extrême faiblesse d’une si petite machoire munie de trente-deux dents minuscules. Pauvre bête, de quelques dizaines de kilos ! Que pourrait-elle bien faire en face de mes cinq ou six tonnes capables de parcourir un demi-kilomètre en une minute !


    • Christian Labrune Christian Labrune 10 janvier 2018 12:08

      @pemile
      Il existe déjà des machines qui comprennent très bien les questions que vous leur posez, et qui vous répondent en faisant preuve d’humour.

      J’en voyais, une hier, sur une chaîne de télévision, qui prouvait même une certaine culture. Non seulement la réponse était ironique (et pas du tout programmée !) mais elle était assortie d’une référence à un auteur qui avait traité de la question.

      La compréhension du langage naturel par les machines a fait depuis cinq ans des progrès spectaculaires. Bientôt, Google ne vous donnera plus des listes de pages, mais pourra vous faire la réponse qu’on attendrait de n’importe quel universitaire spécialiste d’un domaine particulier.

      Vous devriez quand même vous informer un peu. Vous n’avez pas la télévision ?


    • pemile pemile 10 janvier 2018 12:13

      @Christian Labrune "Non seulement la réponse était ironique (et pas du tout programmée !) mais elle était assortie d’une référence à un auteur qui avait traité de la question.« 

      Juste statistique !

       »Vous devriez quand même vous informer un peu. Vous n’avez pas la télévision ?"

       smiley


    • Taverne Taverne 10 janvier 2018 12:29

      @Christian Labrune

      « pas du tout programmée » : mais l’IA est un programme. Tout ce qu’elle dit vient d’un programme. Le vivant comporte au contraire une grande part de liberté et d’improvisation.


    • Aristide Aristide 10 janvier 2018 13:14

      @Taverne


      Non l’IA n’est pas un programme. 

    • Aristide Aristide 10 janvier 2018 13:22

      @pemile

      C’est bizarre votre position sur ce sujet, si je l’ai bien comprise. 

      La réponse ironique dont parle Labrune met en oeuvre de nombreux concepts autres que la statistique. Déjà il faut savoir ce qu’est l’ironie, la manière d’en faire, ...

      Il me semble que vous essayez à tout coup à limiter l’IA à des processus préinstallés, conçus, ... alors que vous savez très bien que les évolutions majeures de l’IA se font justement sur la complexité des concepts concomitants à mettre en oeuvre. Leur possibilité de s’améliorer par acquisition d’expérience, apprentissages de nouvelles connaissances, ...

      Par exemple dans l’exemple de l’ironie dans un dialogue, l’expérience est primordiale, savoir qui est son interlocuteur, connaitre son acception du sujet, le type de relation que l’on a avec lui, ... enfin tout ce qu’une personne analyse avant de formuler une réponse ironique.

    • pemile pemile 10 janvier 2018 13:55

      @Aristide "La réponse ironique dont parle Labrune met en oeuvre de nombreux concepts autres que la statistique. Déjà il faut savoir ce qu’est l’ironie, la manière d’en faire, « 

      Du deep learning avec un apprentissage de modèles de réponses ironiques suffit, non ?

       »Savoir ce qu’est l’ironie«  au même titre que  »savoir" ce qu’est une banane ?


    • pemile pemile 10 janvier 2018 13:56

      @Aristide « dont parle Labrune »
      @Labrune

      Vous nous donnez le lien de cette vidéo présentant cette « IA » ?


Réagir