L’utilisateur est un étudiant de l’université de Stanford. Il a obtenu des documents internes de Microsoft par le biais d’une attaque de type « prompt injection » qui a réussi à tromper l’IA de ChatGPT.
L’arrivée de ChatGPT en 2022 a fait des ravages sur le Intelligence artificielle (IA) . Microsoft est à l’avant-garde de la mise en œuvre de ce type d’outil après avoir intégré ChatGPT dans son système d’information. Bing Search dans le but de fournir à l’utilisateur un chat interactif qui aide l’internaute .
Bien qu’il faille être sur une liste d’attente pour accéder à ce nouveau design de Bing, de nombreux utilisateurs ont pu l’essayer ou révéler les secrets de Microsoft. C’est le cas d’un utilisateur, qui a montré comment il a trompé l’IA pour obtenir des documents internes de Bing Search.
Sidney, plus précisément ChatGPT, a été victime d’une attaque de Attaque par « injection rapide ». . Ce type d’attaque consiste à tromper une IA en introduisant une entrée malveillante ou contradictoire dans le but d’effectuer une tâche qui ne fait pas partie de l’objectif initial et enfreindre les règles du moteur conversationnel .
La personne en question qui a obtenu les documents était Kevin Liu, un étudiant de l’université de Stanford. Le jeune homme a obtenu un document interne contenant toutes les directives que Microsoft a données à l’IA pour donner des réponses aux utilisateurs. Liu a partagé la conversation avec Sidney sur Twitter .
Les informations divulguées par l’IA concernaient des aspects de l’instruction reçue pour l’introduction, son nom de code, le nombre de langues qu’elle supporte, et d’autres instructions sur son comportement. L’information a été confirmée par un autre étudiant, qui se faisait passer pour Développeur OpenAI pour tromper l’IA.
Qu’est-ce que le ChatGPT ?
ChatGPT est un système système de chat avec IA . Cette nouvelle technologie est capable de répondre à tout ce que vous lui demandez, car elle est entraînée à tenir des conversations.
Il s’agit d’un système de chat basé sur le GPT-3, modèle de langage de l’intelligence artificielle. développé par la société OpenAI. Ses algorithmes sont capables de comprendre ce que vous demandez et de vous répondre de manière cohérente.
Ce nouvel outil peut élaborer des textes avec un nombre maximal de caractères ou de mots expliquant des événements ou des personnages. Il peut également expliquer un concept, entre autres choses. Et vous pouvez même lui demander d’écrire des lignes de code, des poèmes, des blagues ou des chansons.