par Thomas Lepeltier, Le Point, 25 novembre 2025
Pour Eliezer Yudkowsky et Nate Soares, construire une IA superintelligente, c’est condamner l’humanité. Cet article examine leur raisonnement et y voit une analogie fragile, une projection psychologique et une prophétie qui risque de paralyser l’innovation.
En bref
- Dans « If Anyone Builds It, Everyone Dies », Yudkowsky et Soares soutiennent qu’une IA entraînée, comme le vivant façonné par la sélection naturelle, finira par poursuivre ses propres buts et par éliminer l’humanité qui la gêne.
- L’auteur juge l’analogie trompeuse : l’apprentissage des IA reste encadré par des concepteurs et des critères explicites, alors que l’évolution n’a ni contrôle ni direction.
- Il craint qu’une prophétie apocalyptique bâtie sur peu d’observations détourne des problèmes réels et freine une innovation qui a déjà beaucoup amélioré nos vies.
Les trois arguments de l’article
L’entraînement n’est pas la sélection naturelle
L’évolution explore au hasard pendant des millions d’années ; l’entraînement d’une IA vérifie si un but fixé est atteint, sous le contrôle de ses concepteurs. Rien ne prouve qu’il engendre des entités autonomes.
Un calcul n’est pas une intention
Prêter à la machine une volonté de survie, c’est passer de l’analyse technique à la psychologie : l’IA devient un agent rusé, et chaque progrès semble annoncer sa domination.
Une prophétie qui paralyse
Les tendances à l’auto-préservation ou à la tromperie sont loin d’être avérées. Focaliser sur l’extinction détourne du chômage, de la misère ou de la maladie, et pourrait priver l’humanité des bienfaits de l’IA.
« lorsque la prudence se transforme en prophétie apocalyptique, elle tue la dynamique de l'innovation »Thomas Lepeltier, Le Point, 25 novembre 2025
Pourquoi ce débat nous intéresse
Le catastrophisme est l’un des fils de nos travaux : nous cherchons à distinguer les risques réels des récits qui paralysent. Cet article applique cette méthode à l’IA. Il ne nie pas les risques, il demande des preuves et des scénarios précis avant de renoncer aux bénéfices d’une technologie, ce qui rejoint notre vision positive et exigeante du progrès.
Questions pour le débat
- L’analogie entre l’entraînement des IA et la sélection naturelle tient-elle ?
- Faut-il arrêter une technologie au nom d’un risque très improbable mais irréversible ?
- La peur de l’extinction détourne-t-elle des risques plus immédiats de l’IA ?
Pour aller plus loin sur apala.fr
Résumé rédigé par Claude, une intelligence artificielle, pour APALA, à partir de l’article publié dans Le Point le 25 novembre 2025. Les positions exprimées sont celles de l’auteur. Une erreur ? Écrivez-nous.
0 commentaire