Le responsable de l’intelligence artificielle au Pentagone ou l’ancien employé Paul Christiano, ils sont plusieurs à s’être exprimés ces dernières semaines sur le ChatGPT et le projet de loi sur l’intelligence artificielle. Intelligence Artificielle (IA) . Cette fois-ci, c’est au tour de Sam Altman PDG et cofondateur d’OpenAI.

Après une visite à la Maison Blanche, le cofondateur s’est assis devant le Congrès pour demander une réglementation du développement et de l’utilisation de l’intelligence artificielle. M. Altman est préoccupé par les risques probables d’une telle technologie, c’est pourquoi il estime que les gouvernements du monde doivent intervenir.

Pour le créateur de ChatGPT, leur intervention permettrait de s’assurer que ces outils sont développés dans le respect et la protection des droits de l’homme. les droits et libertés des citoyens . « Nous pensons que les avantages des outils que nous avons développés jusqu’à présent dépassent de loin les risques », a-t-il déclaré.

Sam Altman s’est inquiété des risques que la technologie pourrait faire peser sur le monde si son développement n’est pas contrôlé. « Ma plus grande crainte est que nous causions des dommages importants au monde. Si cette technologie tourne mal, les choses pourraient très mal tourner », a-t-il déclaré.

À la suite du discours de M. Altman, les législateurs ont évoqué des risques tels que la perte d’emplois ou l’utilisation d’outils de création de contenu pour générer de fausses informations. Pour illustrer leurs préoccupations, le sénateur Richard Blumenthal, président de la sous-commission sur la vie privée, la technologie et le droit et principal instigateur de l’audition, a diffusé un enregistrement d’IA rédigé par ChatGPT, imitant le style et les principaux points de vue du membre du Congrès.

Les trois points de Sam Altman

Le cofondateur d’OpenAI est également ouvert à la suggestion que le gouvernement développe des solutions de gestion de l’information. des laboratoires indépendants  pour vérifier la des modèles d’intelligence artificielle. 

La deuxième mesure consiste à créer un de normes de sécurité  pour les modèles d’IA, y compris l’évaluation des risques. Les membres du Congrès ont fait valoir que si une réglementation publique est nécessaire, les entreprises d’IA comme OpenAI ne doivent pas attendre que le Congrès mette en place des mécanismes pour contrôler le développement de la technologie.

Enfin, M. Altman a recommandé que la réalisation de l’IA ne soit pas une fin en soi. audits  effectués par des experts indépendants.  Un argument que la Maison Blanche a commencé à faire valoir après avoir annoncé que les principales entreprises du secteur ont accepté de se soumettre à une évaluation publique de leurs systèmes lors de l’événement de piratage DEF CON 31.