Anthropic intègre des filigranes invisibles dans les textes générés par Claude, et c’est une première

Distinguer un texte écrit par un humain d’un texte produit par une IA devient chaque mois plus difficile. Anthropic vient de franchir une étape importante pour rétablir un peu de transparence : l’entreprise a annoncé l’intégration d’un filigrane imperceptible, directement injecté au niveau du modèle, dans les textes générés par Claude. Une première dans l’industrie, qui répond à une exigence du règlement européen sur l’intelligence artificielle.

Comment fonctionne un filigrane dans du texte ?

Marquer une image générée par IA est un problème en partie résolu : des systèmes comme SynthID de Google insèrent une signature numérique dans les pixels, invisible à l’oeil mais détectable par un outil dédié. Le texte, lui, ne possède pas de pixels : chaque tentative de marquage se heurte au fait qu’un texte peut être copié, reformulé, traduit. C’est précisément l’obstacle qu’Anthropic affirme avoir franchi.

Le principe retenu consiste à insérer la signature au moment même où le modèle choisit ses mots. Sans entrer dans les détails techniques, l’idée est d’orienter imperceptiblement les choix lexicaux et syntaxiques du modèle selon un schéma statistique secret : aucun mot n’est étrange, aucune tournure ne trahit le marquage, mais la distribution globale des choix forme une signature détectable par celui qui possède la clé de détection. Anthropic précise que ce filigrane « voyage avec le texte » lorsqu’il est copié ailleurs, et « peut persister même après une certaine édition ». Un texte légèrement reformulé conserverait donc sa signature, même si une réécriture profonde finirait sans doute par l’effacer.

Le règlement européen passe par là

Cette annonce ne tombe pas du ciel. Le règlement européen sur l’intelligence artificielle, entré en application par étapes, impose aux fournisseurs de modèles des obligations de transparence : les contenus générés par IA doivent pouvoir être identifiés comme tels, dans un format lisible par machine. L’Union européenne a publié à cet effet un code de bonnes pratiques, et les grandes entreprises du secteur multiplient les annonces de conformité. Anthropic précise d’ailleurs que le marquage s’appliquera « au niveau du modèle », c’est-à-dire quelle que soit la surface utilisée : l’application Claude, l’API destinée aux développeurs, ou les produits tiers intégrant le modèle. Personne ne pourra donc servir du texte de Claude en prétendant l’avoir écrit soi-même, du moins pas sans qu’un détecteur puisse le vérifier.

La question de la détection, nerf de la guerre

Reste une inconnue de taille : qui pourra vérifier la présence du filigrane ? Si Anthropic garde l’outil de détection pour lui, la mesure restera symbolique. Si au contraire l’entreprise ouvre un vérificateur public, comme le font certains acteurs pour les images, l’impact pourrait être considérable. Enseignants confrontés aux devoirs générés, recruteurs noyés sous les candidatures automatisées, plateformes en proie aux contenus artificiels : les cas d’usage ne manquent pas. LinkedIn a d’ailleurs lancé récemment un bouton permettant de signaler les publications qui « semblent générées par IA », utilisé plus d’un million de fois en un mois, avec à la clé une baisse de 40 % de la visibilité des contenus signalés. La demande de traçabilité est massive.

Les limites de l’exercice

Il faut rester lucide sur la portée de cette avancée. D’abord, un filigrane ne protège pas contre les modèles qui ne l’implémentent pas : les modèles open source, téléchargeables et exécutables sans contrôle, resteront hors de portée de tout marquage obligatoire. Ensuite, une réécriture suffisamment profonde, par un humain ou par un autre modèle, effacera vraisemblablement la signature. Enfin, le débat sur les faux positifs n’est pas tranché : accuser à tort un texte humain d’être artificiel peut avoir des conséquences graves pour un étudiant ou un professionnel. Les entreprises du secteur avancent donc prudemment, et Anthropic ne communique ni sur le taux de détection ni sur le taux d’erreur de son système.

Malgré ces réserves, la démarche mérite d’être saluée. À l’heure où les contenus synthétiques inondent le web, et où la confiance dans l’information écrite s’érode, toute brique technique de traçabilité compte. Le vrai test consistera à observer si les concurrents d’Anthropic emboîtent le pas, et si un standard commun émerge. La question de l’impact économique de l’IA, elle, reste entière : notre analyse de la hausse des prix des serveurs IA de NVIDIA montre à quel point la course à la puissance fait grimper les coûts de toute la filière.

Ce que change le règlement européen pour les lecteurs français

Pour le public européen, et donc français, cette mesure a une portée concrète. Le règlement sur l’IA impose aux fournisseurs de modèles dits généralistes des obligations graduées, dont la mise en place de techniques de marquage permettant de détecter les contenus artificiels. Les entreprises qui ne s’y conforment pas s’exposent à des sanctions pouvant atteindre plusieurs pourcents de leur chiffre d’affaires mondial. Anthropic, dont Claude est largement utilisé en Europe via des intégrations professionnelles, prend donc les devants, tout en transformant une contrainte réglementaire en argument de confiance.

À terme, la généralisation de ces filigranes pourrait créer un écosystème de vérification : navigateurs capables de signaler un texte marqué, plateformes capables de filtrer les publications non déclarées comme artificielles, outils pédagogiques pour les enseignants. Encore faut-il que l’industrie se mette d’accord sur des méthodes interopérables, car un marquage propre à chaque laboratoire fragmenterait la détection. C’est l’un des chantiers que le code de bonnes pratiques européen tente précisément de coordonner, et sur lequel nous reviendrons au fil des prochaines échéances réglementaires.

Source officielle : Anthropic, site officiel et documentation Claude.

Le filigranage des contenus IA vous semble-t-il utile ou illusoire ? Débattez-en avec la rédaction via notre page contact.