Certains des plus grands experts mondiaux dans le domaine de l’intelligence artificielle ont signé un appel à faire une pause dans le développement de l’intelligence artificielle. ChatGPT et ses pairs.
« Nous demandons à tous les laboratoires d’intelligence artificielle d’interrompre immédiatement la formation de systèmes d’intelligence artificielle plus puissants que le GPT-4 pendant au moins six mois. Cette pause devrait être publique et vérifiable, et inclure tous les acteurs clés. Si cette pause ne peut être mise en œuvre rapidement, les gouvernements devraient intervenir et instituer un moratoire », peut-on lire dans la lettre ouverte publiée par l’organisation Future of Life Institute une organisation américaine à but non lucratif dont l’objectif est de « détourner les technologies de transformation des risques extrêmes et à grande échelle pour les mettre au service de la vie ».
Parmi les plus de mille signatures de cet appel figurent les noms de centaines d’entrepreneurs, d’universitaires et d’experts en intelligence artificielle. Parmi les signataires figurent Elon Musk (PDG de Tesla, SpaceX et Twitter), Steve Wozniak (cofondateur d’Apple), des sommités de l’intelligence artificielle telles que Yoshua Bengio (lauréat du prix Turing, sorte de prix Nobel de l’informatique) et Stuart Russell (auteur du texte sur l’intelligence artificielle le plus étudié dans les universités) et l’historien israélien Yuval Noah Harari célèbre pour ses best-sellers sur l’histoire de l’homme et de la civilisation.
Musk, par l’intermédiaire de sa fondation, est également le principal bailleur de fonds du Future of Life Institute, auquel il a fait don de 3,5 millions de dollars en 2021. Un autre demi-million de dollars provient de Promesse des fondateurs l’organisation philanthropique préférée des entrepreneurs de la Silicon Valley. Musk est également l’un des fondateurs de OpenAI la société qui a développé ChatGPT, et continue de travailler avec l’organisation, bien qu’il ait quitté le conseil d’administration en 2018.
L’appel pose des questions essentielles et soulève de nombreux problèmes liés au succès rapide de systèmes tels que ChatGPT, qui, selon les conclusions de Similarweb, a été utilisé un milliard de fois au cours du seul mois de février, ce qui en fait l’application de nouvelle technologie ayant connu la croissance la plus rapide de l’histoire. Les experts se demandent, par exemple, si nous devons laisser les machines inonder nos canaux d’information de propagande et de mensonges, ou si nous devons laisser l’automatisation supprimer tous les emplois, même les plus gratifiants. « Devons-nous risquer de perdre le contrôle de notre civilisation ?
D’où l’appel à une pause. Au moins six mois pour élaborer et mettre en œuvre des protocoles de sécurité sur l’avenir de l’intelligence artificielle, en concentrant la recherche et l’attention sur l’amélioration de la sécurité, de la transparence et de la fiabilité des systèmes déjà disponibles. Les décideurs politiques pourraient profiter de cette pause pour définir le cadre juridique de l’intelligence artificielle, par exemple en créant des autorités chargées de superviser le secteur, en veillant à ce que le public puisse connaître l’origine humaine ou robotique d’un contenu, ou en s’assurant que nous puissions savoir qui est responsable de tout dommage causé par l’intelligence artificielle.
Après avoir réussi à créer de puissants systèmes d’intelligence artificielle, nous pouvons maintenant profiter d’un « été de l’intelligence artificielle » au cours duquel nous récolterons les fruits de nos efforts, concevrons ces systèmes pour le plus grand bénéfice de tous et donnerons à la société une chance de s’adapter », conclut l’appel : « La société a mis en veilleuse d’autres technologies ayant des effets potentiellement catastrophiques sur la société (il est fait référence ici au clonage ou à la modification génétique des êtres humains, par exemple), éd.). Nous pouvons le faire ici. Profitons d’un long été de l’IA, ne nous précipitons pas sans préparation vers l’automne.