Je quitte Bill Joy à l’instant (Ted talks) et je le pense bien mieux placé que vous (l’auteur du fameux « Why the future doesn’t need us ») pour juger si l’AI est concevable et une menace potentielle ou pas. Oui je vous ai lu. Vous semblez oublier qu’il y a un gouffre entre l’intelligence opérationnelle d’un moustique (qui rassemble dans moins d’un mm3 et les capteurs et l’outil de traitement de l’information pour éviter les obstacles, survivre, trouver un partenaire sexuel, etc.. et un être humain. La nature a mis 4 milliards d’années pour aboutir à notre forme d’intelligence probablement parce qu’il fallait une combinaison de capteurs/effecteurs et un outil de traitement des données qui n’existait pas auparavant pour percevoir/traiter les informations intérieures et surtout extérieures. Le tout sans projet (postulat scientifique).
Maintenant sortez un enfant actuel (le dernier cri en la matière) et plongez-le au coeur du paléolithique, que sera son intelligence et sa culture comparée à une existence durant ce siècle disons dans ce pays ?
Les capteurs miniaturisés sont là, la possibilité de les intégrer dans une structure qui peux interagir avec son environnement aussi (pas sans apprentissage initial, mais souvenez-vous de vos jeunes années...), il nous manque les « algorythmes » hiérarchisés pour pouvoir concrètement faire de l’apprentissage. Imaginez une « loi » erronée issue de l’apprentissage initial (à la fabrication) disant que quand on lâche un objet sans support à un mètre du sol il flotte dans l’air. Au premier essai la machine verra que la « loi » est inexacte. A la « Asimov » on peut imaginer une « loi » plus primitive (programmée comme « plus fondamentale » et donc moins modifiable) disant que toute inexactitude entre une loi et le retour du monde réel doit la pondérer. Tout désaccord systématique avec l’expérience doit l’invalider par une nouvelle loi du même ordre reflétant ce que le monde réel dit. Je pense que notre intelligence est issue de processus de ce type et est copiable en AI. Ces simples boucles de rétroactions confinent à de l’apprentissage et je vous fiche mon billet qu’avec des « zéros » et des « uns » on peut s’en sortir...
Sinon d’accord sur le fait que mon ordinateur actuel a zéro chance de devenir « conscient » de m’avoir sur le dos en permanence