OpenAI va ajouter des filigranes invisibles aux textes de ChatGPT dans l’UE pour se conformer à l’AI Act
Le filigrane, baptisé textGrain, dissimule un motif statistique dans le choix des mots du modèle. Il sera déployé auprès des utilisateurs de ChatGPT et de Codex dans l’Union européenne au cours des prochaines semaines ; les développeurs de l’API du monde entier peuvent l’activer, mais il est désactivé par défaut.
L’annonce : OpenAI a annoncé lundi qu’elle commencerait à ajouter un filigrane invisible aux textes générés par ChatGPT et Codex dans l’Union européenne afin de se conformer à l’AI Act de l’UE, a rapporté TechCrunch. Les règles de transparence du texte, entrées en vigueur le 2 août, imposent aux entreprises d’IA de marquer les contenus générés par IA de manière que d’autres systèmes puissent les identifier. Le déploiement concerne les utilisateurs éligibles de toutes les formules, dans l’UE uniquement ; OpenAI a précisé ne pas faire du filigranage de texte un réglage par défaut à l’échelle mondiale.
Comment ça marche : Il n’y a aucun symbole visible. Le système oriente le choix des mots du modèle, laissant un motif invisible pour les humains mais repérable par un détecteur détenant une clé secrète, selon un rapport technique d’OpenAI coécrit avec des chercheurs de l’université de Pennsylvanie et de Yale. Comme le signal se trouve dans les mots eux-mêmes, il résiste au copier-coller. OpenAI a indiqué que le filigrane n’identifie pas l’utilisateur et n’avoir constaté aucun changement notable des performances du modèle lorsqu’il est activé.
Ses limites : La retouche l’affaiblit. Lors des tests d’OpenAI, remplacer 10 % des mots par des synonymes a fait passer la détection sur des passages de 400 tokens d’environ 92 % à 66 %, et remplacer un quart des mots l’a fait tomber sous les 20 %, a rapporté The Decoder. Les passages courts, les réponses mathématiques et les textes traduits sont aussi plus difficiles à détecter. OpenAI a averti que l’absence de filigrane « ne prouve pas qu’un texte a été écrit par un humain », et qu’un filigrane détecté ne dit rien de la part de retouche ou de jugement humain dans un passage.
Qui peut vérifier : Pour l’instant, l’accès au détecteur est réservé à des chercheurs et organismes experts agréés, qu’OpenAI dit autoriser au cas par cas. L’outil indiquera seulement si un filigrane d’OpenAI a été trouvé, a rapporté The Decoder.
Contexte : Anthropic a annoncé il y a deux mois qu’elle filigranerait dans le monde entier les textes générés par Claude, une décision qui a suscité des réticences chez certains utilisateurs, a noté TechCrunch. Contrairement à l’approche obligatoire d’Anthropic, le filigranage de l’API d’OpenAI est facultatif, a rapporté The Decoder.