L’entreprise américaine d’intelligence artificielle Anthropic va intégrer un filigrane invisible dans les textes produits par son robot conversationnel Claude, afin de se conformer au règlement européen sur l’IA.
Cette marque signalera seulement qu’un contenu est passé par la machine, et non que Claude en est nécessairement l’auteur.
Le procédé, détaillé lundi par l’entreprise de San Francisco, est imperceptible à la lecture et survit au copier-coller, selon Anthropic.
Un marquage qui ne prouve pas l’origine d’un texte
La portée du dispositif reste toutefois limitée, ce que l’entreprise admet : un marquage détecté indiquera qu’un contenu a été traité par Claude, sans établir son origine. Un texte écrit par un humain puis relu, traduit ou résumé par l’IA en portera donc un.
À l’inverse, un passage trop court ou fortement réécrit peut n’en porter aucun. L’outil devrait donc être peu utilisable pour confondre un étudiant tricheur ou authentifier un document.
Images, fichiers et métadonnées de provenance
Les images et autres fichiers générés recevront des métadonnées de provenance signées, selon une norme technique publique.
Seuls les modèles lancés à partir du 2 août sont concernés, les précédents devant être mis à niveau ultérieurement.
Une obligation issue du règlement européen sur l’IA
Cette annonce découle d’un article, entré en vigueur le 2 août, du règlement européen sur l’IA, qui impose aux fournisseurs d’IA de marquer leurs contenus de façon lisible par une machine.
Les contrevenants risquent jusqu’à 15 millions d’euros d’amende ou 3% de leur chiffre d’affaires mondial.
Anthropic, signataire du code de bonnes pratiques associé à ce règlement, appliquera le marquage dans le monde entier et non aux seuls utilisateurs européens.
Google, Meta, Microsoft, Mistral et OpenAI également signataires
Outre le créateur de Claude, environ 190 organisations ont signé le code de bonnes pratiques européen fin juillet, dont Google, Meta, Microsoft, Mistral et OpenAI.
Google, qui a annoncé sa signature le 24 juillet, met en avant SynthID, sa technologie de filigranage maison, non publique, qu’elle cherche à imposer avec Apple, Nvidia ou OpenAI.
Anthropic n’a pas encore publié d’outil de détection de ce filigrane, pourtant exigé par le texte européen.
IHATA