Il faudra bien un effort commun et contraignant de tous les pays pour que les risques existentiels liés à l’IA soient totalement nuls. Ce qui veut dire que tous les pays devront choisir la régulation plutôt que des profits à court terme mais avec une fin de monde possible à moyen terme. La réponse semble évidente, sauf si on est sûr que l’homme ne pourra jamais être égalé (cette confiance est donc potentiellement destructrice).

Et après s’être occupé du risque existentiel, il faudra parler du chômage, du sens à donner à une vie sans travail, d’un nouveau système économique à mettre en place, du risque d’abrutissement généralisé, de l’encadrement d’une utilisation privée de l’IA de manière néfaste (création de drones tueurs dans son garage, prolifération du piratage informatique...), de qui aura accès aux IA les plus avancées et de ce qu’on fera des réponses (gérées collectivement ou nouvelle ère religieuse ?)...

L’IA n’est pas un sujet anodin dont on parle trop, il faut en parler maintenant et se préparer au pire si on veut limiter au maximum les (très) mauvaises surprises. Même dans le meilleur des cas, l’IA signe la fin d’un monde et les plus informés s’étonnent qu’on accepte aussi facilement et sans s’inquiéter de parler à des machines. Merci d’en parler.