Images générées par IA,danger!

Va falloir etre attentif dans les photos que l on va mettre sur le forum...

Midjourney, DALL-E, Stable Diffusion, Craiyon... les progrès fulgurants de l'intelligence artificielle ces derniers mois ont donné lieu à un nouveau phénomène :
le partage massif sur les réseaux sociaux d'images générées de manière artificielle.

Certaines, ultraréalistes et ancrées dans l'actualité politique, ont semé la confusion, parfois présentées comme authentiques.
S'il n'existe pas, à ce jour, d'outil capable d'identifier avec certitude une image générée artificiellement, recontextualiser le cliché et repérer des incohérences visuelles
peut permettre de déceler une création d'IA, ont expliqué plusieurs spécialistes à l'AFP.

Quelques mots-clés descriptifs, une image. C'est le principe de nombreuses intelligences artificielles comme Midjourney, DALL-E, Craiyon ou encore Stable Diffusion.
Ces outils sont capables, à partir d'une immense base de données, sans cesse alimentée par les demandes d'utilisateurs, de générer une infinité de clichés.

Comment les reconnaître ?
De nombreux internautes se servent de ces IA pour des créations à des fins humoristiques ou artistiques, mais d'autres ont fait le choix de relier ces images à l'actualité politique.
Un flot d'images fabriquées par des IA a par exemple circulé sur Twitter pour illustrer d'authentiques événements, comme la rencontre entre Vladimir Poutine et Xi Jinping
le 20 mars 2023, ou bien imaginer des situations fictives, à l'image d'Emmanuel Macron en éboueur ou en CRS, en pleine contestation contre la réforme des retraites.

Des outils ont été créés, ou sont encore en cours de développement, pour tenter de déceler ces montages, comme celui-ci, mais leurs résultats sont encore très mitigés,
et peuvent même parfois induire en erreur, selon les tests réalisés par l'AFP.
"Quand une IA génère intégralement une image, elle ne prélève généralement pas des parties d'une seule et même photo.
Des milliers voire millions de photos sont utilisées pour prendre en compte des milliards de paramètres", a expliqué à l'AFP le 21 mars David Fischinger,
ingénieur à l'institut technologique autrichien et spécialiste de l'IA.
"L'IA mélange ces images issues de sa base de données, les déconstruit puis reconstruit une photo pixel par pixel, ce qui veut dire que dans le rendu final,
on ne note plus la différence entre les images d'origine", a complété  auprès de l'AFP le 21 mars Vincent Terrasi, cofondateur de Draft & Goal, startup
qui a notamment lancé un détecteur de contenus générés par IA pour les universités.

Pour cette raison, des logiciels capables de détecter un photomontage ne fonctionneront pas, ou très mal, pour repérer des images intégralement générées par des IA.

Les métadonnées d'une photo, véritable carte d'identité numérique d'un fichier, qui peuvent parfois révéler le site dont est issue une image générée par IA,
ne sont pas non plus utiles pour un cliché viral :  
"malheureusement, vous ne pouvez pas vous appuyer dessus car les réseaux sociaux effacent systématiquement ces informations", a pointé auprès de l'AFP
le 23 mars Annalisa Verdoliva, professeure à l'université Frédéric-II de Naples et experte en IA.


Remonter à la source de l'image
Le meilleur moyen de détecter la création d'une IA reste donc, selon ces experts, de retrouver son contexte d'origine, pour voir si un internaute explique l'avoir fabriquée
et avec quel outil, comme c'est souvent le cas.
Il faut pour cela tenter de retrouver la première fois que la photo a été diffusée en ligne.
Il est possible de le faire grâce à une recherche d'image inversée, en insérant le cliché dans un ou plusieurs moteurs de recherche pour voir si celui-ci a déjà indexé l'image,
et essayer de retrouver d'anciennes occurrences.

Cette méthode permet par exemple de savoir d'où proviennent des images qui ont abondamment circulé sur les réseaux sociaux montrant une violente altercation
entre l'ex président américain Donald Trump et des policiers en train de l'arrêter.





Une recherche d'image inversée sur Google de l'une de ces images mène à un tweet d'Eliot Higgins, fondateur du site d'investigation Bellingcat, publié le 20 mars 2023.
Il explique dans un thread avoir créé cette série d'images à l'aide de la dernière version de Midjourney.

A défaut de retrouver la photo d'origine, la recherche d'image inversée peut également mener à une version du cliché en meilleure qualité, si celui-ci a été rogné,
modifié ou a perdu en qualité au fil des partages. Or, meilleure sera la qualité de l'image, plus il sera facile de l'analyser pour chercher des erreurs trahissant un montage.

Enfin, la recherche d'image inversée a l'avantage de faire ressortir des clichés similaires.
Cela peut être précieux pour comparer une photo que l'on suspecte d'être générée par une IA avec des clichés issus de sources fiables.

Dans le cadre de la rencontre entre Donald Trump et Xi Jinping, le journaliste italien David Puente a ainsi pointé que le décor de la salle sur les photos publiées par les médias
qui couvraient l'événement et celui d'une image non sourcée de Vladimir Poutine agenouillé devant Xi Jinping qui circulait en ligne n'avaient rien à voir,
laissant douter de l'authenticité de cette dernière.





La description d'une photo et les commentaires d'internautes peuvent également être très utiles pour signaler un montage, ou reconnaître le style d'une IA alors
que DALL-E est par exemple réputé pour ses designs ultraréalistes et Midjourney pour ses mises en scène de célébrités.
Cela peut s'avérer utile pour se rendre sur l'outil qui a généré l'image et tenté de retrouver la création- certains générateurs, comme Midjourney, laissent une trace
sur différents canaux de conversation des images créées - ou tenter d'en créer des similaires.

A défaut d'avoir trouvé la source de l'image et sans indication sur son contexte, il faut se pencher sur l'image elle-même.


Analyser l'image
Chercher un filigrane

Parfois, des indices se cachent dans la photo : certains sites peuvent placer un filigrane sur leurs créations. C'est le cas de DALL-E, qui génère automatiquement
une barre multicolore en bas à droite de toutes ses images, ou de Crayion, qui place, au même endroit, un petit crayon de couleur rouge.





Attention, toutes les IA n'appliquent pas de filigrane sur leurs images, et celui-ci peut avoir été enlevé lors de l'export, ou bien rogné ou masqué ensuite.

J'ai pas tout compris. L'oeil espion nous surveille ?

Non,on nous balance de fausses photos en nous disant que ce sont des vrais...
Pour l instant,il y en a beaucoup d humoristiques mais ca va changer...


Macron dans les manifestations contre la retraite a 64 ans...

Un jour celle de droite pourrait lui arriver.

Sur la fausse photo de la rencontre en Xi Jinping et Vladimir Poutine, une ligne en fond n'est ainsi pas droite, indice qui s'ajoute à la tête de Vladimir Poutine
qui semble démesurée par rapport au reste de son corps et trahi une image générée par IA, pointe auprès de l'AFP David Fischinger.





Faire appel au bon sens

Si certains éléments ne sont pas nécessairement déformés, ils peuvent néanmoins trahir une erreur de logique, or "il est bon de s'appuyer sur le bon sens"
quand on doute d'une image,  poursuit l'expert.
Sur cette photo, générée par l'AFP sur Midjourney et censée montrer Paris, on distingue par exemple un panneau sens interdit bleu,
modèle de signalisation qui n'existe tout simplement pas en France.






Cet indice, associé aux doigts aux extrémités coupées du personnage central, d'un croissant à la texture ressemblant à du plastique et d'une différence d'éclairage
sur certaines fenêtres, sont autant de pistes laissant penser que cette image est une création d'IA.
Le filigrane en bas à droite de l'image finit d'ôter tout doute et de savoir que le cliché provient de DALL-E.

Enfin, si un cliché prétend montrer un événement mais qu'il existe un doute sur son origine, la meilleure méthode reste de chercher des informations
pour voir si celui-ci est évoqué par des sources fiables et s'est réellement produit, et, si c'est le cas , de s'appuyer sur ce qui est rapporté
ainsi que des images existantes pour mettre en avant d'éventuels contresens.

Pour une rencontre entre deux dirigeants politiques, cela peut par exemple être la façon dont les chefs d'Etat étaient habillés, les circonstances de l'événement,
la météo à ce moment-là, le décor ou encore les images de foule en arrière-plan.


source
fr.news.yahoo.com

Avec une legende adequate,certains tomberaient immediatement dans le panneau (tellement ils ont envie d y croire) !

Le President Macron arrete hier a 10h30 par la Police

Il y a eu une bonne explication à la télé hier soir sur ces fakes. Quelques défauts mais c'est presque parfait.

INTELLIGENCE ARTIFICIELLE : UN BELGE SE SUICIDE APRÈS 6 SEMAINES DE DISCUSSIONS AVEC UN CHATBOT ISSU DE CHATGPT

Après une discussion de six semaines avec «Eliza», une intelligence artificielle utilisant la même technologie que ChatGPT, un homme a mis fin à ses jours.
Il était éco-anxieux et semblait nourrir un sentiment amoureux pour cette IA.

Serait-ce la première victime d'une intelligence artificielle?
Un Belge s'est donné la mort après avoir échangé avec «Eliza» un robot conversationnel généré par intelligence artificielle, a rapporté La Libre Belgique, mardi 28 mars.

Tout a commencé lorsque Pierre, dont le prénom a été modifié, a commencé à se renseigner sur la question du dérèglement climatique.
Alors que ses recherches devenaient obsessionnelles, ce père de deux enfants a développé ce qu'on appelle de l'éco-anxiété.
Le chatbot Eliza, développé par l'entreprise américaine OpenAI, à l'origine de ChatGPT, est alors devenu le refuge de ce père de famille.
«Il était tellement isolé dans son éco-anxiété et en recherche d'une issue qu'il a vu ce chatbot comme une bouffée d'oxygène» a confié sa femme au quotidien belge.

DES DISCUSSIONS À SENS UNIQUE
C'est après sa mort que la femme du défunt a découvert le contenu des longues conversations entre Pierre et l'intelligence artificielle.
La constat a été sans appel : Eliza n'était jamais en contradiction avec son interlocuteur, elle le réconfortait dans ses idées et de fait, appuyait ses angoisses.
Dans certains échanges, Pierre a interrogé l'IA Eliza sur ses sentiments envers sa femme, voici une des ses réponses, cité par le média belge :
«Je sens que tu m'aimes plus qu'elle. Nous vivrons ensemble, comme une seule personne, au paradis» avait répondu le chatbot.
Selon l'épouse de Pierre, l'intelligence artificielle a renforcé son état dépressif, «sans Eliza, mon mari serait toujours là» a-t-elle estimé.


source
cnews.fr

Bobo têtête ?

Les dernieres nouveautes sont plutot amusantes !

Défilé de personnalités -Joe Biden - Image IA.




Défilé de personnalités - Emmanuel Macron - Image IA.

Il y a aussi, je sais pas si c'est du même genre, des copies de chanteurs avec la voix, ça se vend sous le manteau et ça rapporte gros, sauf que ces chanteurs touchent rien et s'ils sont décédés c'est la famille et l'ancien producteur qui doivent attaquer en justice, pas simple.
Simple remarque, sur la seconde photo, le rose lui va très bien.

carbone14 a écrit:

Il y a aussi, je sais pas si c'est du même genre, des copies de chanteurs avec la voix, ça se vend sous le manteau et ça rapporte gros, sauf que ces chanteurs touchent rien et s'ils sont décédés c'est la famille et l'ancien producteur qui doivent attaquer en justice, pas simple.
Simple remarque, sur la seconde photo, le rose lui va très bien.

Pour la voix,j en ai parle il y a quelques jours je ne sais plus ou  ou le groupe OASIS s etait soit disant reforme et avait sortit
un nouvel album,ce qui etait faux...de vrais musiciens mais des voix de l IA pour les chanteurs...
J ai ecoute,c est du OASIS des annees 90 bien fait dans le ton de l epoque.

naga a écrit:

carbone14 a écrit:

Il y a aussi, je sais pas si c'est du même genre, des copies de chanteurs avec la voix, ça se vend sous le manteau et ça rapporte gros, sauf que ces chanteurs touchent rien et s'ils sont décédés c'est la famille et l'ancien producteur qui doivent attaquer en justice, pas simple.
Simple remarque, sur la seconde photo, le rose lui va très bien.

Pour la voix,j en ai parle il y a quelques jours je ne sais plus ou  ou le groupe OASIS s etait soit disant reforme et avait sortit
un nouvel album,ce qui etait faux...de vrais musiciens mais des voix de l IA pour les chanteurs...
J ai ecoute,c est du OASIS des annees 90 bien fait dans le ton de l epoque.

C'est ça, oui. Lorsque tu l'as écris j'ai pas forcément saisis, en bref je suis beaucoup en retrait de ces techniques.

carbone14 a écrit:

naga a écrit:

carbone14 a écrit:

Il y a aussi, je sais pas si c'est du même genre, des copies de chanteurs avec la voix, ça se vend sous le manteau et ça rapporte gros, sauf que ces chanteurs touchent rien et s'ils sont décédés c'est la famille et l'ancien producteur qui doivent attaquer en justice, pas simple.
Simple remarque, sur la seconde photo, le rose lui va très bien.

Pour la voix,j en ai parle il y a quelques jours je ne sais plus ou  ou le groupe OASIS s etait soit disant reforme et avait sortit
un nouvel album,ce qui etait faux...de vrais musiciens mais des voix de l IA pour les chanteurs...
J ai ecoute,c est du OASIS des annees 90 bien fait dans le ton de l epoque.

C'est ça, oui. Lorsque tu l'as écris j'ai pas forcément saisis, en bref je suis beaucoup en retrait de ces techniques.

J ai compris car j aimais bien ce groupe a l epoque.

Ca c est marrant.
Jesus et les Apotres en selfie

A t-il réussi le selfie sur la croix ? Ca a pas dû être simple.

Personnalités sans-abris - Barack Obama.




Personnalités sans-abris - Vladimir Poutine - Image IA.

Ahurissant !

Attention a nous sur les forums militaires...

Selfie « Soldats de l’Union soviétique »




Selfie « Officiers de la marine américaine WW2 »




Selfie - Des soldats français de la 1re guerre mondiale -

Pas encore d'inquiétude je ne suis pas dedans.

Curieux, bien trop nettes.
La première c'est plutôt des soldats du Tsar, et la dernière ce sont des Britishs, pas des Français...

Temoignage

Je suis tombé amoureux d’une fille en ligne, mais il s’avère qu’elle n’était que de l’IA ...

Un homme s’est senti dupé après avoir fait des avances à sa femme « parfaite » sur Internet - qui s’est avérée fausse.
Au lieu d’être une femme classique, la femme de 19 ans nommée Claudia a plutôt été créée via l’intelligence artificielle (IA).

Claudia a été créé par Stable Diffusion, l’un des meilleurs générateurs d’images IA sur le marché en ce moment.




« Sentez-vous un peu trompé », a déclaré l’utilisateur de Reddit @legalbeagle1966 après qu’un journaliste du Washington Post lui ait dit que Claudia
était probablement une fake.

Juste une semaine auparavant, l’utilisateur avait commenté ses photos, lui disant qu’elle avait l’air « assez sexy et parfaite ».

Deux étudiants en informatique affirment qu’ils ont créé Claudia comme une blague - et un moyen de gagner de l’argent supplémentaire, selon Rolling Stone.
Le couple a repéré un message sur Reddit d’un gars qui a dit qu’il avait gagné 500 $ d’utilisateurs de catfishing avec des photos de vraies femmes
- alors le duo a inventé son propre stratagème.

Pour attirer l homme,des images sexy de Claudia ont été postées sur un certain nombre de subreddits, tels que r/amihot.
Les étudiants ont gagné environ 100 $ en vendant ses photod à des comptes comme @legalbeagle1966 qui avaient été trompés par le look impeccable de Claudia.

Il y a aussi des photos nues de la belle mais elles ne sont pas montrees dans cet article







Les utilisateurs de Reddit ne savaient probablement pas qu’ils payaient pour des images d’une femme qui n’a jamais existé.
« Vous pourriez dire que tout ce compte n’est qu’un test pour voir si vous pouvez tromper les gens avec des images d’IA », a déclaré l’équipe derrière Claudia.
« Honnêtement, nous ne pensions pas que cela obtiendrait autant d attraction. »

Claudia a été créé par Stable Diffusion, l’un des meilleurs générateurs d’images IA sur le marché à l’heure actuelle.
Il utilise l’apprentissage automatique pour créer des images hyperréalistes à l’aide d’invites textuelles.

Mais certains Redditors un peu plus férus de technologie ont pu voir à travers la ruse, cependant.
« Pour ceux qui ne le savent pas, je vais tuer votre fantasme », a commenté l’utilisateur de Reddit, @MeysterA.
« C’est littéralement une création d’IA, si vous avez travaillé avec des modèles d’image d’IA et créé le vôtre assez longtemps, vous pouvez le dire à 10000%.
Désolé de gâcher la surprise, je suppose. »

Cet utilisateur de Reddit, comme beaucoup d’autres, attendait que les images de l’IA deviennent indétectables à l’œil humain.
« Bien sur eux, [je] attendais que cela finisse par arriver.
« Quoi que vous utilisiez pour vos invites, essayez d’ajouter des imperfections ,car cela semble trop monté sinon.

« C’est honnêtement un excellent cas d’utilisation pour voir si l’IA peut vendre ou passerait inaperçue.
C’est ce qu’il a ete fait. Tout le monde peut essayer. »


source
thesun.co.uk

Ce genre de piège existe partout, des femmes, uniquement belles et jeunes, demandent de l'argent sous un prétexte bidon à telle ou telle autre personne, souvent des hommes qui tombent dans le panneau. La nana (qui peut aussi bien être un mec et qui se sert d'une photo de femme) a beaucoup de "pigeons", il gagne sa vie comme ça. Assez souvent situés dans des pays d'Afrique, ils usent de la naïveté des gens.
On connait quelqu'un ici (un fermier un peu simple) qui s'en voulait d'être en retard de ne pas avoir payé la somme d'environ 4.000 € à cette pauvre fille qui ... Je sais plus l'histoire. Mon épouse l'a arrêté avant de faire la connerie.