Depuis quelques années, les modèles de réseaux neuronaux aussi nommés couramment “Intelligence Artificielle” (IA) ont énormément fait parler d’eux. Plus de 30 millions d’images IA sont produites quotidiennement par certaines plateformes phares comme DALL·E, Midjourney ou Stable Diffusion pour ne citer qu’elles.
Sans rentrer dans les problèmes éthiques qu’engendrent ces plateformes (j’en parle dans l’article pourquoi apprendre à dessiner à l’ère de l’IA), il devient important de savoir si une image a été conçue par un humain ou par une IA.
En effet, la reconnaissance du travail artistique, la crédibilité professionnelle, et la lutte contre les deepfakes dans les domaines sensibles (ex : la politique) deviennent primordiales pour éviter toutes sortes de problèmes allant de la violation du droit à l’image jusqu’aux conflits internationaux.
À l’échelle de l’artiste, il est impératif de savoir repérer les images IA pour authentifier votre travail et éviter les accusations infondées.
Que vous soyez complètement ignorants de l’IA ou que vous en ayez déjà une certaine conscience, cet article va passer en revue non seulement les outils qui reconnaissent automatiquement les images IA, mais aussi ma méthode personnelle pour reconnaître par vous-même les illustrations / dessins / peintures / photos générés par IA.
Chapitres
Chapitre 1
Quelques outils permettant de reconnaître des images IA
Sightengine
Mon outil de reconnaissance IA préféré car il est possible de tester 50 images gratuitement par jour après inscription.
- Sightengine est une API conçue à la base pour la modération de contenus visuels (nudité, violence…), qui propose aussi une détection IA.
- Fonctionnement : soumission de l’image via une API ou en glissant-déposant l’image.
- Utilité : très utile pour les plateformes ou apps qui veulent filtrer les images générées artificiellement à grande échelle, mais aussi pour les particuliers curieux.
J’ai testé cet outil sur mes propres digital paintings et j’ai trouvé parfois des résultats vraiment différents comme le montre ces captures d’écran d’analyse d’avatars issus exactement de la même série de personnages !
Je me suis rendu compte que plus les images étaient minimalistes, plus le rendu était lisse et plus les résultats étaient chaotiques.
Par contre, si le résultat s’approche des 90% (ou plus), il faut commencer à se poser des questions…
J’ai d’ailleurs essayé de prendre en photo une image IA pour voir si Sightengine s’y retrouve même avec une copie via un autre appareil, et l’analyse a été la même.
J’ai même essayé toutes sortes de filtres Photoshop par dessus et Sightengine a réussi à percer la vérité à jour à chaque fois.
C’est bon signe car cela signifie qu’il détecte des patterns très particuliers et peut opérer un “Reverse Engineering” sur la façon dont les pixels sont agencés.
Dans tous les cas, il ne faut donc pas prendre les résultats au pied de la lettre et il vaut mieux analyser une 2e fois manuellement en suivant les étapes indiquées plus bas dans l’article.
La combinaison des deux va pouvoir augmenter vos chances de reconnaître les images générées par intelligence artificielle.
SynthID de Google Deepmind
- SynthID est une technologie mise au point par Google DeepMind, intégrée sur les plateformes développées par Google. Elle intègre une signature invisible dans les images générées.
- Fonctionnement : chaque image IA produite par les modèles compatibles est marquée d’un signe indétectable à l’œil humain. En téléchargeant l’image dans le SynthID Detector, on détecte si elle porte cette watermark, et on peut même repérer les zones concernées par les modifications.
- Utilité : efficace uniquement sur les images issues des modèles équipés de SynthID (typiquement Google). D’autres IA, comme celles d’OpenAI ou Meta, ne sont pas encore marquées malheureusement.
FotoForensics
Outil que j’ai testé, mais seulement utile pour certains aspects de l’analyse.
- Outil gratuit centré sur l’analyse forensique d’image. Plutôt que de détecter l’IA, il met en évidence les zones suspectes via des techniques comme le Error Level Analysis (ELA) ou l’inspection des métadonnées (= données intégrées dans le fichier qui accompagnent l’image).
- Fonctionnement : le système vous montre les incohérences comme les pixels trop compressés et les zones retouchées, ce qui peut vous indiquer que l’image a été modifiée ou créée de toute pièce.
- Utilité : excellent complément pour l’analyse “à la main” et idéal pour les curieux un peu avancés dans l’analyse d’image.
GRATUIT !
Accédez à 3 formations gratuites et rejoignez une communauté de dessinateurs passionnés !
Tout ce dont vous avez besoin pour laisser libre cours à votre créativité.
Une fois connecté,
cliquez sur “Mes formations 🎓”
pour commencer les cours
En vous inscrivant, vous serez aussi abonné à notre newsletter.
Sensity
(non testé car pas d’essai gratuit)
- Sensity est une plateforme spécialisée dans la détection de contenus manipulés, notamment les deepfakes et les images IA à usage malveillant.
- Fonctionnement : analyse automatisée par IA + bases de données d’images falsifiées pour repérer les contenus suspects.
- Utilité : apparemment très efficace pour repérer les montages IA à but frauduleux, utilisé par des entreprises, médias et institutions.
Il existe de nombreux outils et il en sort chaque jour, à vous de faire vos recherches régulièrement sur des sites comme There’s An AI For That ou en mettant des filtres intelligents sur des agrégateurs RRS comme Feedly.
Chapitre 2
Comment analyser et identifier une image générée par IA manuellement : le guide complet
Importer la photo dans Google Images
Un classique mais qui fonctionne pour vérifier les sources web où l’image est apparue pour la première fois.
À partir de là, il faudra identifier la source de l’image.
Analyse globale de l'image
Une fois passé l’image dans un ou plusieurs des outils cités plus haut, et si vous avez encore des doutes, Il faudra finir le travail vous-même.
Pour analyser une image soi-même, il faut commencer par observer minutieusement toute incohérence.
Voici une liste non exhaustive des bizarreries qui peuvent exister dans une image IA:
- personnage qui fronce les sourcils exagérément sans contexte adéquat.
Non seulement le personnage a l’air méchant sans aucune raison, mais le portrait du bébé aussi !
Sans parler des incohérences de mécanismes dans la lampe, qui à l’origine est une caméra web. Mes crayons se sont transformés en des objets électriques bizarres.
Il faut toujours passer outre l’effet “wow” du rendu qui peut être impressionnant au premier abord : le diable se cache dans les détails avec les images IA. Ouvrez l’œil !
- incohérence de perspective :
Les modèles de diffusion courants sont actuellement incapables de créer des schémas simples et logique en perspective (exemple : dessiner l’invisible, intersection de formes, mesurer en perspective, etc.).
Et c’est une des raisons pour laquelle il est absolument nécessaire pour un artiste d’apprendre les bases du dessin !
- Incohérence de répétition :
L’image ci-dessus réunit toutes les incohérences classiques des générateurs d’images actuels :
– main à 6 doigts
– éclat d’énergie avec formes trop répétitives
– éclats de pierre de même dimension, écartés de la même façon
– globalement le rayon d’énergie est divisé en deux parties qui n’ont aucun sens.
- Hallucinations de continuité de formes :
L’IA se fait souvent prendre au piège par sa propre nature probabiliste.
Dans ce cas elle a reconnu la position bras croisés, mais n’a pas tenu en compte que le bras gauche était redressé. Vu qu’elle ne connaît pas sa gauche et sa droite, logiquement parlant, cela a entraîné deux erreurs de continuité (quand un élément passe derrière un autre) : la main droite a été représentée deux fois, et la main gauche a été oubliée.
L’IA se dit: “il y a deux mains, donc c’est bon”.
Oh, et puis sans compter que la main proche du visage n’a que 3 doigts, qu’une des mèches est vraiment bizarre et qu’il existe une erreur de continuité de trait sur l’épaule gauche du petit personnage ainsi qu’une main trop grosse par rapport à l’autre.
Chapitre 3
Les cas les plus difficiles à détecter à œil nu
- Les images obtenues par procédé “Image to Image”
Il est plus facile pour l’IA de reprendre exactement une scène déjà composée. Difficile de trouver les erreurs dans certains cas, mais pas impossible !
Exemple :
- Le point de fuite des murs s’arrête exactement sur le visage
- Le contour du sac à dos présente une continuité avec le contour du blouson en cuir
- Les poches du blouson sont bizarres.
- Les formes des arbres et des nuages se ressemblent et se répètent fortement
- Les murs sensés être symétriques ne sont pas de la même hauteur
- La barricade à droite disparaît derrière la tête de Schwarzy
- Et le bouquet final : C’est John qui conduit la moto !
- Création à partir d’une peinture ou dessin à partir d’une image IA
Les images IA les plus difficiles à reconnaitre sont celles qui ont été conçues manuellement par des artistes, que ce soit en digital ou en traditionnel. Et dans ce cas, une grande culture visuelle est nécessaire ainsi qu’un bagage théorique conséquent.
Dans cet exemple de mapo_pencil, artiste asiatique dotée d’une belle aisance technique au crayon, on peut remarquer que l’expression de l’enfant est incohérente par rapport à son âge. C’est l’expression faciale exagérée d’un adulte sur le visage d’un enfant et seule l’IA peut faire ce genre d’erreur avec un style aussi réaliste. Je ne connais aucun enfant de cet âge capable de faire une grimace pareil.
Pour certaines de ces images j’ai pu reconnaître certains styles comme le modèle Niji de Midjourney. Une fois passé au crayon, le modèle devient indétectable comme l’illustre l’image ci-dessous.
Évidemment le grand public n’y verra que du feu (voir les commentaires), mais pour un ancien kiné prof de dessin, il y a clairement anguille sous roche!
Cela n’enlève rien à la qualité de ses dessins cela dit.
Cependant, cela énerve fortement les artistes qui se font voler leurs images pour nourrir ce genre de modèle.
Et la réaction de l’artiste dans les commentaires parle d’elle-même…
Je le rappelle : être artiste c’est avant tout de se créer son propre univers, sinon on peut vite tomber dans la case “artisan technicien sans âme” et indirectement “voleur d’images”… et surtout, surtout… rester humble.
Chapitre 4
Certains Youtubeurs connus ont perdus la face
De plus en plus d’histoires, pas toujours roses, font surface, comme l’histoire de Rossdraws, influenceur très connu aux États-Unis dans la thématique de l’illustration, et ayant utilisé les IA pour certaines recherches de son nouvel artbook.
Il regrette après coup, bien sûr, et se fait aider par son pote SamdoesArts pour le sortir de cette situation.
Il y a une différence entre utiliser l’IA parce qu’on est curieux de technologies et utiliser l’IA pour faire de l’argent sur le dos des autres.
Certaines personnalités perdent complètement les pédales avec la célébrité.
Mieux vaut garder les pieds sur terre en tout temps.
Chapitre 5
Comment prouver que les images viennent de l’artiste
Pour prouver la légitimité d’une image, il est important de garder un maximum de preuves et de sources à défaut de la protéger via un huissier ou toute autre solution moins couteuse (exemple : un organisme de copyrighting).
Par exemple, pour une illustration Il est important de garder toutes les recherches, toutes les références photo et toutes les étapes, que ce soit un dessin traditionnel ou une peinture numérique.
Le petit plus qui peut jouer en la faveur des artistes est de s’envoyer un petit dossier par la poste en courrier recommandé, contenant des copies des recherches et de l’œuvre, sans l’ouvrir, le cachet de la poste faisant foi.
Chapitre 6
Exercice pour s’entrainer à détecter les images IA
Pour les exemples ci-dessous, appliquez ma méthode et essayez de voir s’il s’agit d’images créées par Intelligence Artificielle ou non.
Donnez les détails de votre analyse dans les commentaires !
Si vous ne trouvez pas pour certaines images, ne vous inquiétez pas car plus la scène est simple et plus il est difficile d’analyser à l’œil nu.
Dans ce cas, aidez-vous des outils que l’on a vu plus haut comme Sightengine.
Pit Graf
Créateur du blog Apprendre à Dessiner
Ancien kinésithérapeute recyclé en prof de dessin.
Toujours partant pour parler apprentissage du dessin et pour faire l’âne sur ses vidéos.
