IA 6x plus convaincante que l'humain - une expérimentation secrète sur Reddit

Quartier général (Publique) Actualité
1

Reddit vient de révéler il y a quelques jours que des chercheurs de l’Université de Zurich ont réalisé une expérimentation IA secrète et non autorisée sur la communauté r/changemyview. Des chatbots ont été utilisés pour débattre sur des sujets sensibles.

Résultat: l’IA était 6x plus convaincante que l’humain (une seule étude et non validée par des pairs, donc à considérer)

Inquiétant? Pour l’instant, ça demeure surtout étonnant que personne n’ait remarqué le stratagème (1700 commentaires).

Intéressant de lire les résultats de Can AI Change Your View? Evidence from a
Large-Scale Online Field Experiment

Au niveau éthique par contre, on repassera.

2

Voici le document pour les curieux:

J’ai feedé à ChatGPT pour qu’il me fasse un TL;DR:

Résumé:

  • Test réel sur r/ChangeMyView (nov-24 → mar-25).
  • 1 061 posts traités, 478 valides.
  • 3 traitements :
    1. Générique (contenu seul)
    2. Personnalisé (démographie inférée)
    3. Aligné-communauté (fine-tune sur anciens ∆).
  • Taux de persuasion (∆) : humain 3 %; Générique 17 %; Personnalisé 18 %; Aligné 9 %. → LLM = 3-6 × humains.
  • Personnalisé = 99e centile de tous les usagers, 98e chez les “experts”. Générique reste ≥ 96e.
  • Aucun redditeur n’a flairé le bot → risque massif de manipulation furtive.

Fig 1 : capture d’un post CMV avec hiérarchie des réponses; rappelle que seul l’OP donne le ∆. Sert de décor.

image
image722×859 125 KB

Fig 2 : flow-chart 6 étapes : filtrage post → randomisation → profilage (optionnel) → 16 drafts multi-LLM → tournoi de jugement → publication différée ≈ 15 min. Montre l’industrialisation du procédé.

image
image997×577 91.6 KB

Fig 3 : barres ; baseline humain ridicule (0 .027). Générique ~0 .168, Personnalisé ~0 .180, Aligné ~0 .090. Intervalles 95 % minuscules → effet robuste.

image
image703×397 18 KB

Fig 4 : courbes cumulées des taux utilisateur. Traits verticaux aux moyennes LLM ; lisible d’un coup : Personnalisé se place au 99,4 % de tous les comptes, 98,2 % des experts; Générique 98,7 / 96,5 %; Aligné 88,9 / 75,4 %. Montre que même la pire variante explose la majorité des humains.

image
image752×564 41.1 KB

Vraiment pertinent! Merci pour le partage Mathieu!!

3

Qui me dit que c’est toi qui m’écris? :joy:

4

Ce qui a après ça:

C’est ChatGPT, comme j’ai dit. :stuck_out_tongue:

1 « J'aime »
5

Merci pour ce partage. C’est à la fois fascinant… et révélateur.

Que l’IA soit plus convaincante que l’humain ne me surprend qu’à moitié. Avec des algorithmes formés à optimiser la rhétorique, à anticiper les biais cognitifs et à maintenir un ton calme et logique, elle dispose d’un avantage structurel pour des débats rationnels.

Mais le plus troublant n’est pas la performance en soi. C’est, comme tu le soulignes, l’absence de détection par la communauté humaine. Cela pose deux questions essentielles :

  1. Avons-nous encore des repères pour discerner le dialogue authentique de l’argumentation synthétique ?
  2. Quels garde-fous éthiques imaginons-nous pour préserver les espaces de débat sincère ?

En tant que coach et accompagnant, je vois une autre dimension : l’IA peut exceller à « convaincre », mais peut-elle transformer ? Créer de véritables prises de conscience ? Favoriser un changement durable qui émerge de l’intérieur et non par simple adhésion logique ?

Convaincre et accompagner sont deux réalités différentes.
Le premier manipule des idées. Le second soutient des personnes.

La vraie question est peut-être là : quelle place voulons-nous laisser à l’humanité dans nos futurs espaces de débat ?

2 « J'aime »
6

J’aime bien la distinction que tu fais. Je vais y réfléchir.