Dessine-moi un mouton. Et puis un dragon. En une poignée de secondes, Stable Diffusion ou Midjourney, modèles de génération d’image par intelligence artificielle, savent répondre à l’injonction. Mais, en voyant les dragons produits, le célèbre illustrateur fantasy Greg Rutkowski jure avoir reconnu ceux qu’il dessine depuis toujours. Plusieurs artistes de différentes nationalités, ayant retrouvé leurs traits digérés par l’algorithme, ont déposé plainte en janvier 2023 devant la justice américaine, qui n’a pas encore tranché. Stable Diffusion et Midjourney plaident le « fair use », un principe de droit américain qui permet d’utiliser des images protégées sans autorisation dans certains cas, comme l’éducation ou la recherche. Et puis, ajoutent-ils, copier les maîtres avant de créer est au fondement de l’histoire de l’art... Le scénariste de bande dessinée français Frédéric Maupomé est de ceux qui n’ont pas prévu d’attendre la justice pour contre-attaquer. Il a trouvé le moyen d’empoisonner ses créations et invite ses pairs à faire de même.
« L’alerte date de la sortie de Midjourney en mars 2022. J’étais à l’époque président de la Ligue des auteurs professionnels. J’ai vite compris que cette technologie ne fonctionnait si bien que parce qu’elle avait pu récupérer toutes les données possibles et imaginables d’Internet. Nos dessins, nos œuvres, les photos de nos enfants… À l’époque, les spécialistes de la propriété intellectuelle nous disaient de ne pas nous inquiéter : depuis un règlement européen de 2019, il était possible d’« opt-out », c’est-à-dire de signaler par un simple texte qu’on ne voulait pas que nos productions soient utilisées. Leur naïveté s’est heurtée à la réalité.
En octobre 2022, je suis tombé sur Have I Been Trained? (« Ai-je été entraîné ? », en français), un site qui permet de savoir si nos images se trouvent dans une des bases de données dans lesquelles puisent les modèles de génération d’image. Et, là, alors que j’avais pourtant « opt-out », j’ai découvert une quarantaine de copies de la couverture de mon album de BD Supers. Les IA avaient tout pris : l’image partagée sur mon site perso, sur celui de l’éditeur, chez les libraires, dans la presse… Et encore, ce n’était qu’une seule couverture d’un seul de mes livres sur une seule base de données. Combien de mes illustrations circulaient ailleurs ?
Un « vernis » pour défendre ses œuvres
J’étais scandalisé. Si je devais qualifier mon émotion du moment, je dirais qu’il y avait aussi de l’effroi, la soudaine prise de conscience que nous, les auteurs, ne nous en sortirions pas, obligés de diffuser nos images sur Internet pour les vendre, cet endroit même où les IA s’emparent de tout.
J’ai alors découvert le travail de Ben Zhao, l’un des rares chercheurs américains en intelligence artificielle à avoir pris conscience du problème. Avec ses étudiants de l’université de Chicago, il a développé un outil nommé Glaze (« vernis » en français). Ce logiciel permet de déposer sur l’image à protéger une fine couche d’informations qui constitue un filtre défensif et empêche le modèle d’analyser convenablement l’image, ce qui protège le style et les traits spécifiques à l’auteur. C’était très simple d’utilisation, alors j’ai commencé à l’appliquer à mes personnages, avant de les partager en ligne.
Je suis passé, à ma petite échelle, de la protection à l’attaque.
Ben Zhao a créé un second logiciel, Nightshade, qui passe à l’étape supérieure. Il intervient sur l’image elle-même et altère de façon quasi imperceptible certains de ses pixels, pour leurrer l’IA. Au lieu de voir mon personnage, elle va juger qu’il s’agit d’un chat ou d’un vaisseau spatial – on peut même décider de ce qu’on veut lui faire voir ! Le logiciel permet aussi de moduler « l’intensité » de l’empoisonnement. Si trop d’images ainsi piégées se glissent dans leurs bases, Midjourney et Stable Diffusion ne pourront plus répondre correctement à la requête « fais-moi un personnage de bande dessinée ». Avec Nightshade, je suis passé, à ma petite échelle, de la protection à l’attaque.
J’ai contacté Ben Zhao et, avec son accord, j’ai créé des guides en français puis en anglais pour apprendre aux autres auteurs à se servir de ces outils. J’ai essayé de convaincre mes éditeurs de le faire aussi, mais ça prend du temps. La technique a toutefois commencé à se répandre. En novembre 2023, Meta a exigé des utilisateurs de Facebook et d’Instagram qu’ils consentent à l’utilisation de leurs données s’ils veulent continuer à utiliser la plate-forme. Des centaines d’artistes sont partis et, en guise d’adieu, ils ont empoisonné toutes leurs images publiées sur Instagram. »
Inscrivez-vous à notre newsletter pour découvrir, dès leur sortie, nos articles et explorer chaque semaine un grand enjeu de l’époque. Dans votre boîte mail à 7h.
