«des risques majeurs pour l’humanité»Fronde contre la recherche sur les intelligences artificielles
Dans une pétition en ligne, des personnalités de renom demandent une pause de six mois dans la recherche sur les IA plus puissantes que ChatGPT 4, le modèle d’OpenAI lancé mi-mars
Une réponse de ChatGPT, un chatbot d'IA développé par OpenAI.
Il n’y pas que l’emballement médiatique autour des prouesses de ChatGPT, objet même de discussions au Parlement fédéral. Des personnalités de renom demandent dans une pétition en ligne la suspension immédiate et durant au moins 6 mois, du développement de successeurs de GPT-4, le dernier-né des modèles de langage développés par OpenAI.
«Les systèmes d'IA dotés d'une intelligence humaine compétitive peuvent poser de graves risques pour la société et l'humanité, souligne notamment le document. L'IA avancée pourrait représenter un changement profond dans l'histoire de la vie sur Terre, et devrait être planifiée et gérée avec un soin et des ressources proportionnés.»
La pétition pose toute une série de questions dont celle du risque final «de perdre le contrôle de notre civilisation». «Des systèmes d'IA puissants ne devraient être développés qu'une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables», peut-on encore lire sur le texte.
ChatGPT et les applications d’intelligence artificielle relancent un vieux débat: celui d’un hypothétique conflit entre l’Homme et la machine. Réponses en infographie.
Parmi le millier de signataires, on trouve notamment l’incontournable Elon Musk, pourtant investisseur des premières heures dans OpenAI, l’auteur à succès de «Sapiens» Yuval Noah Harari selon qui la technologie pourrait rendre les humains «superflus», ou encore Steve «Woz» Wozniak, le cofondateur d’Apple. On trouve aussi des membres du laboratoire d’IA de Google DeepMind, le patron de Stability AI Emad Mostaque, concurrent d’OpenAI, ainsi que des experts en IA et universitaires américains, ingénieurs cadres de Microsoft, groupe allié de OpenAI.
Le patron d’OpenAI, concepteur de chatGPT, Sam Altman a lui-même reconnu être «un petit peu effrayé» par sa création si elle était utilisée pour de «la désinformation à grande échelle ou des cyberattaques». «La société a besoin de temps pour s’adapter», avait-il déclaré à ABCNews mi-mars.
L’intelligence artificielle est au cœur de l’actualité depuis plusieurs semaines. Outil révolutionnaire ou futur danger, le sujet préoccupe la population suisse. Nous avons posé vos questions à une experte.
Les pétitionnaires appellent subsidiairement les gouvernements à agir en leur demandant d’intervenir et d’instituer un moratoire.