ChatGPT : cette énigme affole Internet et prédit une faille majeure de l’IA

Une affaire a défrayé la chronique ces derniers jours.

0 𝕏

© Unsplash / Adi Nugroho 𝕏

Le nom de David Mayer ne vous dit probablement rien, mais ce dernier a créé une polémique liée au comportement de ChatGPT à son évocation. Retour sur une affaire qui montre les limites de l’IA.

Le cas David Mayer

Tout a commencé lorsque des utilisateurs ont repéré que le chatbot ne souhaitait pas répondre à la question « Qui est David Mayer ? ». Il commence une réponse, puis l’efface au milieu en précisant : « Je ne parviens pas à produire une réponse. »

Le mystère a provoqué de nombreux commentaires et la presse s’est emparée du dossier. Si bien qu’OpenAI a dû s’expliquer. La société technologique a souligné que le problème était désormais résolu. Elle ajoute :

Des experts en protection des données ont commencé à creuser ce dossier. Comme le précise le Wall Street Journal, Guido Scorza, un avocat italien, a testé l’IA sur lui-même et découvert le même souci. Un des autres noms interdits est Jonathan Turley, le professeur de droit américain.

Une faille de l’IA

Au delà de ces cas particuliers, cette histoire souligne à quel point les problématiques liées à la vie privée sont majeures pour ces IA. D’ailleurs plusieurs personnes ont intenté des procès à ce sujet à l’encontre d’OpenAI.

Pour y remédier, les concepteurs de ces outils recourent à des techniques qui n’ont rien de novatrices mais remontent au contraire aux débuts de l’informatique. Ils imposent en effet des règles à ces chatbots qui ressemblent à cet exemple : Si « tel nom » est mentionné, alors ne fournis pas de réponse et génère : « Je ne suis pas en mesure de produire une réponse ». Le même procédé est par ailleurs utilisé pour certains sujets tabous que l’IA n’est pas censée aborder.

Avez-vous déjà remarqué ces cas de figure où ChatGPT et ses rivaux ne répondent pas à vos requêtes ? Dites-le-nous dans les commentaires.

Ce qu’il faut retenir :

• Des internautes ont repéré que ChatGPT ne voulait pas répondre à la question : « qui est David Mayer ? »
• Le bug a depuis été corrigé et OpenAI affirme qu’il s’agissait d’une erreur dans le cadre de la protection de la vie privée des personnes
• Ce cas illustre les problèmes majeurs auxquels sont confrontés ces IA

[ ]