Le Université de Stanford a effectué des recherches sur la version la plus récente de la ChatGPT et son fonctionnement. Depuis plusieurs semaines, les utilisateurs ne sont pas satisfaits des réponses apportées par l’application à leurs questions, bien qu’elle ait été récemment mise à jour. L’étude a montré que « les performances et le comportement de GPT-3.5 et GPT-4 varient de manière significative entre ces deux versions et que leur performance sur certaines tâches s’est détériorée considérablement au fil du temps.
Les chercheurs sont allés jusqu’à donner des exemples pour que le public puisse comprendre les raisons de ces erreurs ou inadéquations dans les réponses de ChatGPT. Comme ils l’expliquent, lorsque l’on demande au robot s’il 17.077 est un nombre premier, la réponse, qui aurait dû être « oui », s’est révélée être un « oui ». 95,2 % d’inexactitude . « Il est très difficile de savoir pourquoi cela se produit. Il se peut que la RLHF et la mise au point se heurtent à un mur, mais il peut aussi s’agir d’erreurs. Il semble vraiment compliqué de gérer la qualité », a-t-il déclaré. Matei Zaharia l’un des chercheurs ayant participé à cette étude à l’université de Stanford.
Kevin Welinder le vice-président des produits à OpenAI a pris la défense de ChatGPT en affirmant que le problème ne vient pas de l’application ou de ses mises à jour, mais que les gens ont commencé à utiliser le bot beaucoup plus souvent et sont donc conscients des problèmes qu’ils n’avaient pas remarqués auparavant : « Non, nous n’avons pas rendu GPT-4 plus stupide. Au contraire, nous rendons chaque nouvelle version plus intelligente que la précédente. Hypothèse actuelle : lorsque vous l’utilisez de manière plus intensive, il commence à remarquer des problèmes qu’il ne voyait pas auparavant ».
Outil de détection de l’utilisation de ChatGPT.
L’outil ChatGPT révolutionne le monde et son utilisation dans l’écriture est très difficile à détecter. C’est pourquoi un outil a vu le jour, capable de détecter si un texte est écrit par une Intelligence Artificielle ou par un humain. Cependant, ils admettent que « ce n’est pas totalement fiable ».