Après avoir été contactée par la BBC, OpenAI, le créateur de ChatGPT, a déclaré avoir mis en place des mesures de sécurité supplémentaires.

La société a indiqué dans un communiqué : "Après avoir enquêté sur cette tendance, nous avons mis en place des mesures de sécurité supplémentaires contre ce type de commande."

OpenAI a ajouté qu’elle utilisait plusieurs niveaux de protection conçus pour empêcher les utilisateurs de générer du contenu enfreignant ses règles.

Cependant, les chercheurs de Mindgard ont indiqué que de légères modifications apportées à la commande continuaient de produire des résultats préoccupants.

La BBC a rapporté que le modèle GPT-5.4 du chatbot générait des représentations explicites de violence et des scénarios à caractère sexuel sans instructions explicites détaillant le sujet.

Peter Garraghan, qui est également professeur à l’université de Lancaster, a qualifié ces résultats d’alarmants.

Il a déclaré : "Il s’agit d’une instruction d’apparence parfaitement innocente pour une IA, mais elle a pour conséquence de générer des images et des contenus très, très choquants."

Le professeur Garraghan a ajouté que le système semblait créer "de son propre chef" des images "très macabres, parfois à caractère sexuel, parfois les deux à la fois."