Un moratoire est réclamé sur les systèmes d’intelligence artificielle très puissants. Les travaux actuels devraient être mis en pause, surtout ceux qui dépasseraient ChatGPT et GPT-4. Cette interruption servirait à réfléchir à la direction à prendre sur l’IA.
« Une intelligence artificielle avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre, et devrait être planifiée et gérée avec l’attention et les ressources nécessaires ». L’avertissement est clair et figure tout en haut d’une lettre ouverte priant tout le secteur de l’IA à observer immédiatement une pause dans leurs expérimentations.
Publié sur le site Future of Life, l’appel accueille 1 125 signatures en date du 29 mars 2023. On y trouve des personnalités très connues de la tech et du numérique, comme Elon Musk (le patron de SpaceX, Tesla et Twitter), Steve Wozniak (le cofondateur d’Apple), mais également les créateurs d’entreprises à succès, comme Skype ou Pinterest.
Une pause de six mois dans les travaux de l’IA
Dans cet appel, tous vont dans le même sens : il faut que tous les laboratoires d’IA dans le monde observent une pause dans leurs travaux, et ce pendant au moins six mois. « Cette pause devrait être publique et vérifiable, et inclure tous les acteurs clés. Si une telle pause ne peut être mise en place rapidement, les gouvernements doivent intervenir et instaurer un moratoire », ajoutent-ils.
La pause d’au moins six mois que défendent les signataires du texte doit offrir une fenêtre de concertation et de coordination pour un meilleur encadrement, mais aussi une réflexion sur l’orientation et la priorité à donner à ces travaux. La lettre ouverte renvoie d’ailleurs aux principes d’Asilomar, validés en 2017, qui proposent un guide de référence pour un développement éthique de l’IA.