par Thomas Lepeltier, Usbek & Rica, 28 avril 2025
Les scénarios où une intelligence artificielle anéantirait l’humanité reposent sur des probabilités sans fondement et sur des motivations jamais expliquées. La prudence est utile, soutient l’article, mais suspendre le développement de l’IA serait une erreur.
En bref
- La peur des machines qui se retournent contre leurs créateurs est ancienne, de L’Iliade à Terminator ; elle s’est installée chez les spécialistes de l’IA eux-mêmes depuis les années 2000.
- L’auteur conteste l’autorité de ces prédictions : être expert d’une technique ne rend pas meilleur prospectiviste, et les pourcentages de risque avancés ne mesurent qu’une impression.
- Il reconnaît que l’IA ne sera pas toujours inoffensive, mais juge une pause inutile et irréaliste : on règle les risques en les observant, et d’autres pays continueraient.
Les trois arguments de l’article
Des chiffres qui ne mesurent rien
Annoncer telle « chance sur cent » d’extinction d’ici quelques décennies donne un vernis scientifique, mais on ne peut dénombrer ni les scénarios catastrophiques ni les futurs possibles. Ces estimations restent arbitraires.
Pourquoi une super-IA voudrait-elle nous détruire ?
L’analogie avec l’exploitation animale ne tient pas : les humains exploitent les animaux parce qu’ils en tirent un bénéfice, et ne cherchent pas à les exterminer. Une intelligence supérieure aurait plutôt intérêt à coexister.
Des machines qui restent corrigeables
Le scénario de l’IA qui transforme la Terre en usine à trombones suppose soit une consigne mal écrite, que l’on corrigerait, soit une volonté qu’elle n’a pas. Et des IA peuvent servir à surveiller ou désactiver d’autres IA.
« Le fait que les humains conserveront un contrôle sur les IA ne signifie pas pour autant qu’elles seront toujours inoffensives. »Thomas Lepeltier, Usbek & Rica, 28 avril 2025
Pourquoi ce débat nous intéresse
L’intelligence artificielle est l’un des thèmes de travail d’APALA, qui y voit un outil d’émancipation intellectuelle et un accélérateur des transitions. Cet article déplace utilement le débat : plutôt que de se demander si l’IA va nous exterminer, se demander quels risques concrets elle pose et comment on apprend à les maîtriser, comme on l’a fait pour l’automobile.
Questions pour le débat
- Peut-on accorder du crédit à une probabilité d’extinction donnée par un expert, et à quelles conditions ?
- Faut-il réguler une technologie avant de la connaître, ou après l’avoir vue fonctionner ?
- Quels risques de l’IA mériteraient plus d’attention que le scénario de l’extinction ?
Pour aller plus loin sur apala.fr
Résumé rédigé par Claude, une intelligence artificielle, pour APALA, à partir de l’article publié dans Usbek & Rica le 28 avril 2025. Les positions exprimées sont celles de l’auteur. Une erreur ? Écrivez-nous.
0 commentaire