Sites de fausses nouvelles générés par l'IA : comment l'intelligence artificielle arme le référencement pour le profit

L’intelligence artificielle générative bouleverse les codes et les pratiques de l’informatique. La rapide émergence et la prolifération de nouveaux outils et méthodes ont conduit à la possibilité d’une semi-automatisation, voire d’une automatisation complète, de la génération de contenu en ligne. La rapidité d’exécution et les capacités de multi-tasking qui en découlent augmentent considérablement le risque de dommages causés par des acteurs malveillants qui exploitent ces technologies. 

“ leparisienmatin.fr ”, un site web qui imite partiellement le titre d’un journal bien connu, est un exemple frappant que nous de CybelAngel avons détecté.

Ce site, largement généré par l’IA, présente, lors de notre enquête, les caractéristiques d’une plateforme de nouvelles standard, tout en occultant des objectifs autres que ceux d’information.

Notre enquête décode comment l’intelligence artificielle, utilisée comme moyen de produire du contenu en ligne, vise finalement à manipuler les algorithmes de Google afin de promouvoir des entreprises tierces à des fins néfastes.

Cette pratique révèle le développement d’une stratégie SEO complexe basée sur une mise en réseau sophistiquée et organisée.

Cependant, en plus de cette pratique interdite par Google, il existe de nombreux effets nocifs, tels que :

• Usurpation d'identité
• Potentiel déni de la vérité par les médias
• Vol d'identité de personnalités publiques
• Revente des données personnelles des internautes et risques de sécurité

1. L’explosion des réseaux de fake news générés par l’IA

Ces sites fonctionnent selon un modèle d’affaires simple mais efficace : ils génèrent des volumes massifs de contenu à l’aide d’outils d’intelligence artificielle tels que ChatGPT ou des modèles de langage similaires, optimisent ce contenu pour les moteurs de recherche et récoltent des revenus publicitaires lorsque les utilisateurs cliquent sur des liens redirigeant vers ces contenus. Google Discover ou les résultats de recherche. Certains opérateurs auraient ainsi fait fortune grâce à ce système.

L'anatomie d'une ferme de contenu IA

Un site de nouvelles généré par l’IA typique suit un schéma prévisible :

1. Production de contenuLes articles sont soit copiés à partir de sources d’information légitimes et réécris par l’IA, soit entièrement fabriqués par des modèles de langage. Le contenu contient souvent des indices révélateurs de la génération par l’IA — des formulations maladroites, des incohérences factuelles et les caractéristiques “ hallucinatoires ” que les systèmes d’IA produisent lorsqu’ils inventent de l’information.

2. Éléments visuelsLes images sont souvent générées par l’IA, avec des artefacts évidents que les yeux formés à la recherche peuvent repérer. Les photos de stock peuvent être utilisées sans attribution adéquate, ou des images synthétiques créées par des outils comme DALL-E ou Midjourney accompagnent des histoires fabriquées.

3. Profils des auteursLes auteurs sont des victimes de vol d’identité, des journalistes inexistants sans profil LinkedIn, sans historique de publication, et sans trace numérique au-delà du site lui-même. Certaines sites utilisent des photos de tête générées par l’IA pour ces auteurs fantômes.
   

4. Stratégie de domaineLes opérateurs enregistrent souvent des domaines qui imitent des médias de presse légitimes, en utilisant des variations mineures dans l’orthographe ou en ajoutant des éléments régionaux pour créer l’illusion d’une crédibilité. L’exemple du “ leparisienmatin.fr ” illustre cette tactique : il emprunte l’identité de “ Le Parisien ”, un journal français authentique.

Comment Google Discover est devenu un distributeur automatique de billets

Un tournant critique dans ce phénomène s’est produit lorsque les opérateurs ont découvert que Google Discover – le flux de nouvelles personnalisé sur les appareils Android et dans les applications de Google – était particulièrement vulnérable aux contenus générés par l’IA. Contrairement à la recherche traditionnelle, qui nécessite que les utilisateurs effectuent eux-mêmes des recherches, Google Discover propose des contenus aux utilisateurs en fonction de leur historique de navigation et de leurs centres d’intérêt.

Pour les éditeurs, une présence sur Google Discover peut générer des milliers de dollars par jour en revenus publicitaires grâce à Google AdSense. L’algorithme accorde une priorité aux signaux d’engagement tels que les taux de clics, ce qui est une compétence des titres sensationnels et des articles de type « clickbait » — quelle que soit la qualité ou la véracité du contenu.

En 2022-2024, des tutoriels YouTube sont apparus, enseignant aux professionnels du référencement SEO “ comment pirater Google Discover ” en utilisant l’IA générative. Ces guides se sont répandus rapidement dans les communautés de référencement en français, démocratisant les techniques et créant une course à l’armement entre les plateformes de contenu généré par l’IA.

L'effet d'amplification de la désinformation

Les conséquences vont bien au-delà du spam. Ces sites générés par l’IA ont réussi à introduire des informations totalement fausses dans les systèmes de recommandation de Google afin d’augmenter leur popularité et leur engagement. Il s’agit notamment des éléments suivants :

• Les billets de banque cesseraient d'exister en France à partir d'octobre 2025
• Les grands-parents ne pourront plus transférer de l'argent aux petits-enfants.
• Le gouvernement français saisirait des sommes provenant de comptes d’épargne pour financer la guerre en Ukraine
• Une pyramide vieille de 25 000 ans a été découverte sous une montagne
• Un prédateur géant ressemblant à un dodo immense a été découvert sous la glace de l’Antarctique

De manière encore plus insidieuse, certaines de ces histoires fabriquées ont été reprises et amplifiées par des journalistes humains d’autres médias, qui n’ont pas vérifié les informations avant de les republier. Cela crée un effet multiplicateur de désinformation, où les fausses informations générées par l’IA gagnent en légitimité grâce à la citation par des médias légitimes.

Le Centre de suivi de l’IA de NewsGuard Elle a documenté des centaines de ces “ sites web de nouvelles générés par une IA peu fiable ” dans plusieurs langues, démontrant que ce phénomène est mondial et affecte l’intégrité des informations à travers le monde.

2. L’art noir du netlinking et de la manipulation SEO

Au cœur de ces fermes de contenu IA se trouve une compréhension sophistiquée de l’optimisation des moteurs de recherche, notamment la pratique de l“” netlinking » : la création de réseaux d’hyperliens pour gonfler artificiellement l’autorité d’un site web dans l’algorithme de classement de Google.

Comprendre le système de classement basé sur les liens de Google

L’algorithme de recherche de Google repose toujours fortement sur les backlinks en tant que signal de classement. Lorsqu’un site web renvoie vers un autre, cela est considéré comme un “ vote de confiance ” – une preuve que le contenu lié est d’une valeur certaine. Les sites possédant de nombreux backlinks de qualité provenant de domaines autorisés ont tendance à obtenir de meilleurs résultats dans les résultats de recherche.

Ce mécanisme fondamental a créé un marché noir lucratif pour la manipulation des liens. Selon Les politiques de Google concernant le spam, Le terme “ spam de liens ” comprend :

• Achats et ventes de liens à des fins de classement
• Exchanges excessifs de liens (“ Lien vers moi, et je vous enlèverai le lien ”)
• Utilisation de programmes automatisés pour créer des liens
• Publier massivement des articles pour les invités avec un texte d’ancrage riche en mots clés
• Création de liens de sites de répertoire ou de favoris de faible qualité

Toutes ces pratiques sont contraires aux règles de Google en matière de spam, mais elles persistent car elles fonctionnent, au moins temporairement, jusqu'à ce que les systèmes de détection parviennent à les détecter.

Le système de liens indirects qui sous-tend les sites d'actualités en IA

Les sites de nouvelles générés par l’IA utilisent plusieurs stratégies de netlinking simultanément :

• Réseaux d'hyperliens internesLes opérateurs créent plusieurs sites qui s’interconnectent les uns avec les autres, construisant ainsi un réseau d’autorité artificielle. Un même opérateur peut contrôler des dizaines de domaines, tous liés entre eux pour donner l’illusion d’un soutien éditorial indépendant.
• Promotion de tiersLe modèle d’affaires principal consiste à vendre des backlinks à des entreprises légitimes. Une entreprise paie à l’opérateur du site d’IA pour qu’il publie un article mentionnant sa marque avec un texte d’attache optimisé renvoyant vers son site web. Comme le site généré par l’IA peut avoir accumulé une certaine autorité grâce au volume de visites et aux apparitions dans Google Discover, ces backlinks apportent une valeur ajoutée en termes d“” equity de lien » au client payant.
• Parasite SEOCertains opérateurs pratiquent l“” abus de la réputation du site » : ils publient du contenu commercial de tiers sur des domaines qui possèdent des signaux de classement établis. Par exemple, un site généré par l'IA pourrait commencer par des articles d'actualités généraux afin de gagner en autorité, puis introduire progressivement du contenu promotionnel payant pour des casinos, des prêts à la journée ou d'autres produits à fort taux de marge.
• Captage de domaines expirésLes opérateurs achètent des noms de domaine expirés qui appartenaient auparavant à des organisations légitimes – agences gouvernementales, organisations à but non lucratif, établissements d’enseignement – et les réutilisent pour héberger du contenu commercial ou d’affiliation. Le nom de domaine conserve sa valeur historique dans le système de Google, permettant ainsi que le nouveau contenu soit classé plus haut que ce qui serait le cas sans cette fonctionnalité.

Ces tactiques sont similaires à celles techniques de manipulation psychologique Ces techniques sont utilisées par les cybercriminels dans le cadre d'attaques de cyberingénierie sociale. Elles reposent toutes deux sur l'exploitation de mécanismes de confiance – que ce soit la psychologie humaine ou le comportement algorithmique – afin d'atteindre des objectifs malveillants.

Pourquoi Google a-t-il du mal à lutter contre cela ?

Malgré l’existence de politiques claires contre ces pratiques, Google se heurte à de nombreux défis en matière de mise en œuvre. Avec plus de 4 000 sites identifiés uniquement en français et probablement des dizaines de milliers dans le monde entier, une inspection manuelle est impossible. Les systèmes d’analyse automatisés doivent détecter des tendances, mais les opérateurs les plus expérimentés développent constamment leurs techniques pour échapper à leur détection. Alors que les modèles linguistiques deviennent plus sophistiqués, le contenu généré par l’IA devient plus difficile à distinguer du texte écrit à la main, les erreurs évidentes et les formulations maladroites qui signalaient autrefois la génération par l’IA disparaissent. 

Tous les contenus assistés par l’IA ne sont pas non plus des spams. De nombreux éditeurs légitimes utilisent des outils d’IA pour aider à la recherche, à l’écriture ou à l’édition, donc Google doit faire la distinction entre une assistance utile grâce à l’IA et une génération d’IA manipulatrice. plutôt C’est une distinction nuancée que les algorithmes ont du mal à appréhender. Les incitations économiques qui motivent ces opérations sont énormes. Avec des revenus publicitaires atteignant des milliers de dollars par jour pour les sites performants, les opérateurs ont une forte motivation à persévérer malgré les risques. Même si certains sites sont pénalisés, ils lancent simplement de nouveaux domaines et répètent le processus.

3. Les conséquences plus larges : au-delà du SEO dans le jeu

Si l’objectif immédiat de ces sites générés par l’IA est de réaliser un profit financier grâce à la publicité et à la vente de liens sponsorisés, les dommages collatéraux touchent plusieurs domaines préoccupants.

Imitation de marque et atteinte à la réputation

Lorsque des sites comme “ leparisienmatin.fr ” imitent “ Le Parisien ”, ils commettent une forme d’imitation de marque qui peut nuire à la réputation de la publication légitime. Les lecteurs qui trouvent des informations fausses sur le site faux peuvent associer cette désinformation à la marque réelle, altérant la confiance dans le journalisme authentique.

Cette tactique s’inspire des techniques utilisées dans les attaques de phishing et de social engineering, où les acteurs menaçants exploitent la reconnaissance de la marque pour tromper les victimes. Le principe psychologique est identique : les personnes confient leurs noms familiers et sont moins susceptibles de vérifier le contenu qui semble provenir d’une source connue.

Tout comme Les virus informatiques modernes En exploitant les vulnérabilités techniques des systèmes, ces sites de fake news exploitent les vulnérabilités cognitives de la manière dont les humains traitent l’information et font confiance aux marques.

Vol d'identité de personnalités publiques

De nombreux sites de nouvelles générés par l’IA reproduisent des citations de véritables politiciens, dirigeants d’entreprise ou célébrités afin d’ajouter de la crédibilité à leur contenu. Ces affirmations fantômes peuvent induire en erreur les lecteurs et nuire potentiellement à la réputation des personnes dont l’identité est exploitée.

Dans certains cas, des images générées par l’IA de personnalités publiques accompagnent ces articles frauduleux, créant ainsi une “ preuve ” visuelle d’allégations ou d’événements qui n’ont jamais eu lieu. Technologie deepfake Si cette situation n'est pas corrigée, ce problème s'aggravera, rendant de plus en plus difficile pour les lecteurs de distinguer le contenu authentique du faux.

Recollection de données et risques pour la vie privée

Derrière le modèle de revenus publicitaires se cache une autre menace potentielle : la collecte de données. De nombreux sites générés par l’IA utilisent des technologies de suivi agressives pour récolter les données des utilisateurs : comportement de navigation, informations sur l’appareil, données de localisation, etc.

Ces données peuvent être :

• Vendu à des courtiers de données : les profils d’utilisateurs sont des biens précieux dans l’écosystème de la publicité numérique
• Utilisé pour le phishing ciblé : Comprendre les intérêts et les habitudes de navigation d’un utilisateur permet de concevoir des tentatives de phishing plus convaincantes.
• Exploité pour le vol d'identité : informations financières ou identifiants d'accès capturés par des scripts malveillants intégrés sur les sites

Certains sites peuvent également distribuer du malware ou du logiciel indésirable via des boutons de téléchargement trompeurs ou des alertes de sécurité fausses – des tactiques qui nécessitent une attention particulière. stratégies de protection complètes pour se défendre efficacement.

4. Détection et défense : Protéger votre organisation

For businesses and individuals concerned about these threats, several defensive measures can help.

Identification des sites de fake news générés par l’IA

Jean-Marc Manach and his collaborators developed a browser extension that flags sites in their database of AI-generated content. While this tool covers thousands of sites, new ones emerge constantly, so vigilance remains essential.

Key indicators to watch for include:

• Non-existent authors: Search for the byline on LinkedIn, Twitter, or other professional networks. Phantom journalists leave no digital footprint.
• Generic or AI-generated images: Look for visual artifacts common in AI-generated imagery—unusual textures, distorted faces, impossible lighting.
• Domain mimicry: Be suspicious of sites with names that closely resemble legitimate publications but with slight variations.
• Sensationalized headlines: AI content farms rely on clickbait to drive traffic. Extraordinary claims without proper sourcing are red flags.
• Lack of transparency: Legitimate news organizations provide clear information about ownership, editorial standards, and contact methods. Fake sites typically omit these details.

Protégez votre marque contre les programmes de netlinking

If your organization discovers that AI-generated sites are linking to you as part of a paid netlinking scheme, whether you participated knowingly or were targeted without consent you should take action.

Here is what we recommend you do.

Start by auditing your backlink profile using tools like Google Search Console, Ahrefs, or SEMrush to identify suspicious patterns. Use Google’s Disavow Tool to tell Google to ignore harmful backlinks that could trigger penalties.  Then contact site operators directly to request link removal and document all attempts.

You should also  set up Google Alerts for your brand name combined with terms like “review,” “scam,” or “complaint” to catch impersonation attempts early. Also you should consider brand monitoring services, like the ones we offer at CybelAngel, that alert you when similar domains are registered or your brand appears on suspicious sites.

Meilleures pratiques en matière de cybersécurité à garder à l'esprit

The same principles that protect against malware and phishing apply to AI-generated content threats. Much like stealth malware such as Pikabot operates undetected, these fake news sites blend into the legitimate information landscape.

• User training: Educate employees about fake news sites and how to verify information sources before sharing or acting on content.
• Email filtering: Implement robust spam filters that can detect links to known fake news domains.
• Endpoint protection: Ensure all devices have updated antivirus software to block malware that may be distributed through malicious sites.
• Network monitoring: Track outbound connections to identify employees accessing suspicious domains.
• Incident response planning: Develop protocols for responding when your brand is impersonated or your organization is targeted by misinformation campaigns.

Conclusion

The emergence of thousands of AI-generated fake news sites represents a new frontier in online manipulation. By combining the content generation capabilities of large language models with sophisticated SEO tactics like netlinking schemes, operators have created a profitable but deeply harmful business model.

The consequences extend beyond simple spam. These sites erode information integrity, enable brand impersonation, facilitate data harvesting, and undermine public trust in digital media. As AI technology continues to advance, the challenge will only intensify.

CybelAngel provides comprehensive external attack surface monitoring that detects brand impersonation, fake domains, and data exposure across the open, deep, and dark web—helping organizations identify and respond to AI-generated threats before they cause damage.