Ze Rhubarbe Blog
-28/10/2025- Plus de 700 scientifiques, personnalités politiques, entrepreneurs de la tech, religieux ou célébrités demandent ce mercredi 22 octobre l’arrêt des travaux liés au développement de la superintelligence artificielle, susceptible de surpasser les capacités humaines.
On peut d'ores et déjà constater la bouillie informationnelle ("slop") issue des millions d'agents IA qui produisent du contenu en bonne partie généré par d'autres IA, menaçant de tuer Internet par asphyxie. Dans un tel contexte où plus rien ne peut être considéré comme vrai, les opportunités de manipulation ne manquent pas et développer à l'arrache une superintelligence, au sens d'une entité capable de raisonner et de développer des objectifs propres qu'elle sait cacher, capable de se copier elle-même (donc indestructible) et de s'auto-améliorer, c'est en effet appeler à une forme de suicide collectif aux mains d'une entité dont le fameux Skynet, de la série Terminator, reste le modèle de référence.
"Nous appelons à l’arrêt du développement d’une superintelligence, tant qu’il n’y a pas un consensus scientifique que cela peut être construit de façon contrôlée et sécurisée et tant qu’il n’existe pas un soutien de la part de la population", indique le texte relié à l’initiative lancée par le Future of Life Institute, un organisme non lucratif basé aux États-Unis.
Ils mettent en garde contre les usages délétères de l'IA, aux mains de terroristes ou de régimes mal intentionnés. La course à la superintelligence est en même temps commerciale et géopolitique, et personne n'a l'autorité pour imposer un moratoire. Nous sommes donc embarqué dans un camion fou où plusieurs conducteurs se battent pour le volant, chacun sachant qu'il y a un mur barrant la route quelque part devant...