Fake News avec l' IA: on va se marrer .. ou ne plus faire attention ..

Le site Newsguartech a publié récemment une étude sur l'explosion des fake news créées par l' IA.

L'industrialisation des "fake news" en Macédoine ou ailleurs, en vue de gagner de l'argent avec des sites "putes à clic" ou de manipuler les gens qui votent il y a quelques années sont dépassés.. Voici venir le temps de l'industrialisation de tout ceci..

Faut-il en avoir peur ou le phénomène des fake news s'auto-détruira ?

NewsGuardTech a identifié dans son étude  614 sites de nouvelles et d'informations générés par l'IA opérant avec peu ou pas de supervision humaine, couvrant 15 langues : arabe, chinois, tchèque, néerlandais, anglais, français, allemand, indonésien, italien, coréen, portugais, espagnol, tagalog, thaï et turc.

Ces sites ont généralement des noms génériques, tels que iBusiness Day, Ireland Top News et Daily Time Update, qui donnent l'impression au consommateur d'être des sites d'actualités établis.

Ces sites fonctionnent avec peu ou pas de supervision humaine et publient des articles rédigés en grande partie ou entièrement par des robots.

Les sites ont produit des dizaines voir des centaines d'articles génériques, sur une gamme de sujets incluant la politique, la technologie, le divertissement et les voyages. Les articles ont parfois inclus de fausses affirmations, y compris sur des dirigeants politiques (Par exemple un site Web généré par l'IA avec un article sur le Premier ministre israélien, affirmant que son psy est mort.).

D'autres fausses affirmations concernent des "canulars" à propos de la mort de célébrités, des événements complètement fabriqués et des articles présentant des événements anciens comme s'ils venaient de se produire.

Dans de nombreux cas, le modèle de revenus de ces sites est la publicité où la diffusion des annonces se fait sans tenir compte de la nature ou de la qualité du site (Par conséquent, les "grandes" marques soutiennent involontairement ces sites et à moins que les marques ne prennent des mesures pour exclure les sites peu fiables, leurs annonces continueront d'apparaître sur ces types de sites, créant une incitation économique à leur création à grande échelle .. mais finalement, s'il y a de l'audience, pourquoi s'en priver ??).

Les sites détectés par NewsGuardTech répondent en général aux 4 critères suivants :

1. Il existe des preuves claires qu'une partie substantielle du contenu du site est produite par l'IA.
2. Il est tout aussi important qu'il existe des preuves solides que le contenu est publié sans supervision humaine significative. Par exemple, de nombreux articles peuvent contenir des messages d'erreur ou d'autres langages spécifiques aux réponses des chatbots, indiquant que le contenu a été produit par des outils d'IA sans édition adéquate. (Il est probable cependant qu'à l'avenir, de nombreux sites d'actualités utiliseront des outils d'IA avec également une supervision humaine efficace)
3. Le site est présenté de manière à ce qu'un lecteur moyen puisse supposer que son contenu est produit par des rédacteurs ou des journalistes humains, car le site a une mise en page, un nom générique, ou d'autres contenus typiques des sites d'informations et de nouvelles.
4. Le site ne divulgue pas clairement que son contenu est produit par l'IA.

Parmi d'autres, les analystes de NewsGuard ont identifié un site Web chinois géré par le gouvernement utilisant du texte généré par l'IA et diffusant comme fausse affirmation que les États-Unis exploitent un laboratoire d'armes biologiques au Kazakhstan infectant des chameaux pour mettre en danger les personnes en Chine.

Les chercheurs, les plateformes, les annonceurs, les agences gouvernementales ou d'autres institutions intéressées à accéder à la liste complète des domaines ou à obtenir des détails sur nos services pour les entreprises d'IA générative peuvent contacter NewsGuardTech à https://www.newsguardtech.com/feedback/give/

Que penser de tout ceci ?  L'étude de NewsGuardTech n'étant que l'une des N études de ce type ..

Nous sommes face (ou dans) une industrialisation de la fake news..  Mais finalement quelles en seront les conséquences dans un contexte où:

• l'infobésité est DEJA présente
• il y a toujours des gogos pour croire n'importe quoi
• il y a toujours des "complotistes" pour ne jamais croire qqch issu de sources dites "sérieuses"
• il y a toujours des gens qui doutent de tout
• il y a une majorité de gens qui lisent juste les titres

et surtout, AUCUNE étude sérieuse n'a montré que le contenu faisait CHANGER d'avis politique les gens.. A la limite, on arrive juste à les convaincre d'ACHETER quelque chose.

Finalement, toute cette abondance de "fake news" n'auront-elles pas comme effets de:

1) mettre le curseur de n'importe quelle nouvelle à "faux par défaut" donc d'augmenter l'esprit critique et quelque part la réflexion des gens ?

2) "suicider" le phénomène, qui trop gros, s'effondrera sur lui-même

Comme souvent, il faut regarder le monde du porno pour voir , en avance, ce qui s'est passé..

Après une énorme augmentation du nombre de sites porno dans les débuts du web et une industrialisation, une automatisation de création des sites, tout le business s'est écroulé et il ne reste que quelques "usines" à contenus, reprenant plus ou moins toutes le même contenu, découpé, tagué, catégorisé, avec des RPM extrêmement faibles et souvent uniquement financés par les sites de rencontres..  Or avec l'information "classique", il n'y a pas de sites de rencontres ...