Grok permet de générer des images de personnalités françaises, et c’est aussi drôle qu’inquiétant

Jean-Luc Mélenchon et Marine Le Pen qui s’enlacent, Pascal Praud et Mathilde Panot partageant un verre, Eric Ciotti en jedi…

0 𝕏

© lilgrapher / Shutterstock.com 𝕏

Grok, l’intelligence artificielle (IA) signée xAI, est maintenant disponible gratuitement pour tous les utilisateurs de X, anciennement Twitter. Elle intègre également un générateur d’images qui, visiblement, n’a pas beaucoup de garde-fous.

Risques de désinformation

En effet, Grok permet de générer des images ultra réalistes de personnalités. Cela va des célébrités internationales aux figures locales. Et la France n’échappe bien évidemment pas au phénomène ; depuis que l’IA est accessible gratuitement, de fausses images de personnes connues au sein de l’Hexagone pullulent sur la plateforme.

Sans surprise, les personnalités politiques sont très prisées. Eric Ciotti en jedi, Jean-Luc Mélenchon et Marine Le Pen qui s’enlacent, Pascal Praud et Mathilde Panot partageant un verre… les internautes ne manquent visiblement pas d’imagination. Des acteurs et des présentateurs télé sont aussi dépeints.

Bien sûr, cette fonctionnalité semble divertissante de prime abord, mais elle témoigne également de la puissance de Grok, certains visuels étant vraiment proches de la réalité. Les risques pour la propagation de la désinformation sont gigantesques. « Ceux qui sont familiarisés avec les générateurs d’images IA peuvent repérer avec suffisamment de confiance si l’image est fausse ou non. Mais je m’inquiète pour nous, les simples mortels qui ne le peuvent pas », remarque un utilisateur du réseau social.

Car il est aussi possible de générer des visuels de personnalités hautement controversées, à l’instar d’Adolf Hitler, d’Oussama Ben Laden ou de Staline.

Accessible à des millions de personnes

Cette approche totalement dérégulée correspond à l’idée défendue par Elon Musk depuis la création de xAI. La startup a vocation à concurrencer OpenAI, qu’il juge trop « politiquement correcte ». D’ailleurs, le milliardaire se dit fervent défenseur de la liberté d’expression absolue, d’où la modération quasi inexistante appliquée sur l’ex-Twitter.

Les générateurs d’images de ses rivales, à l’instar de Google ou de Meta, sont beaucoup plus contrôlés et dotés de nombreux filtres, empêchant les utilisateurs de créer des visuels s’ils tapent certains mots clés. Avec Grok, c’est très visiblement l’inverse. Et le fait que l’IA soit accessible à un si grand nombre de personnes est très inquiétant. À titre de comparaison, Midjourney, qui permet aussi de générer des images de personnalités publiques, est payante.

Désormais, tous les utilisateurs de X, c’est-à-dire plusieurs millions de personnes à travers le monde, peuvent exploiter le générateur d’images à leur guise. Il est fort probable que certains n’auront pas forcément des idées bienveillantes en tête.

Grok, qui est entraînée sur les données présentes sur le réseau social, devrait drastiquement s’améliorer. xAI exploite désormais le superordinateur le plus puissant au monde pour former son intelligence artificielle.

• Grok, l’intelligence artificielle d’Elon Musk, est maintenant disponible gratuitement pour tous les utilisateurs de X.
• Elle permet de générer des images de personnalités connues, même en France.
• Les risques pour la désinformation sont immenses, d’autant plus que les visuels sont ultra réalistes.

M23.1 avis

[ ]