Anthropic annonce un filigrane invisible pour les textes de Claude – des critiques redoutent des marquages erronés

„Das US-Unternehmen Anthropic hat angekündigt, Texte seines Chatbots Claude mit einem unsichtbaren Wasserzeichen zu versehen, um den EU-Vorgaben zum Umgang mit künstlicher Intelligenz (KI) zu entsprechen“, heißt es in dem Bericht. La méthode repose, selon des experts, sur des motifs statistiques dans le choix des mots, invisibles pour les lecteurs humains, mais lisibles par les programmes de vérification appropriés.

Comment fonctionne le filigrane

Des critiques mettent toutefois en garde contre un effet inverse. Le filigrane s'appliquant au niveau des mots et des formulations individuels, il peut également toucher des textes humains qui n'ont ensuite été retouchés que partiellement par une IA. „Benutzer, die zum Beispiel ihren selbstgeschriebenen Text zur Überarbeitung an die KI geben, werden künftig mit dem Risiko leben müssen, dass ihre Texte komplett als KI-Erzeugnis gebrandmarkt werden – auch wenn über den ganzen Text hinweg nur an einzelnen Formulierungen und Wörtern gefeilt wurde“, warnt der Bericht.

Le risque augmente dès lors pour les auteurs, les étudiants et les journalistes de voir leurs œuvres faussement classées comme produites par l'IA – avec des conséquences possibles sur la notation, le droit d'auteur et la crédibilité. Les flux de travail rédactionnels dans lesquels l'IA n'est utilisée que comme aide à la révision pourraient également être concernés.

Réactions des fournisseurs et de Bruxelles

Anthropic fait partie d'une série de grands fournisseurs qui ont réagi ces derniers mois à la réglementation européenne. Outre le groupe américain, Microsoft et l'entreprise française Mistral ont également annoncé ou déjà introduit des marquages similaires. Bruxelles suit attentivement la mise en œuvre et se réserve la possibilité de prendre d'autres mesures si les exigences ne sont pas respectées.

Cette initiative intervient un jour seulement après que plusieurs bulletins ont rapporté d'autres informations du monde entier, notamment les opérations de secours après un tremblement de terre en Colombie, une éruption de l'Etna entrainant des annulations de vols en Sicile, le désamorçage de bombes aériennes à Neu-Ulm, une initiative du Bundesrat initiée par la Basse-Saxe concernant les stars des médias pour enfants, les bulletins météorologiques de Bavière ainsi que de nouvelles médailles pour des sportifs allemands.

La Commission européenne souligne que l'obligation de marquage s'inscrit dans un ensemble plus large de mesures de régulation de l'IA. L'objectif est de protéger les consommateurs contre la tromperie tout en ne brisant pas l'innovation.

Ce que le marquage signifie pour les utilisateurs

Anthropic a déclaré qu'elle déploiera le filigrane de manière progressive et travaillera en parallèle à des méthodes réduisant les classifications erronées de textes humains. Des organismes de contrôle indépendants vérifieront le taux de détection au cours des prochains mois.

Les observateurs voient dans ce débat un conflit fondamental : d'une part, les contenus générés par l'IA doivent être identifiables sans aucun doute ; d'autre part, le marquage ne doit pas devenir un outil qui place l'écriture honnête sous un soupçon général.