Reddit vient de révéler il y a quelques jours que des chercheurs de l’Université de Zurich ont réalisé une expérimentation IA secrète et non autorisée sur la communauté r/changemyview. Des chatbots ont été utilisés pour débattre sur des sujets sensibles.
Résultat: l’IA était 6x plus convaincante que l’humain (une seule étude et non validée par des pairs, donc à considérer)
Inquiétant? Pour l’instant, ça demeure surtout étonnant que personne n’ait remarqué le stratagème (1700 commentaires).
Intéressant de lire les résultats de Can AI Change Your View? Evidence from a Large-Scale Online Field Experiment
Fig 4 : courbes cumulées des taux utilisateur. Traits verticaux aux moyennes LLM ; lisible d’un coup : Personnalisé se place au 99,4 % de tous les comptes, 98,2 % des experts; Générique 98,7 / 96,5 %; Aligné 88,9 / 75,4 %. Montre que même la pire variante explose la majorité des humains.
Merci pour ce partage. C’est à la fois fascinant… et révélateur.
Que l’IA soit plus convaincante que l’humain ne me surprend qu’à moitié. Avec des algorithmes formés à optimiser la rhétorique, à anticiper les biais cognitifs et à maintenir un ton calme et logique, elle dispose d’un avantage structurel pour des débats rationnels.
Mais le plus troublant n’est pas la performance en soi. C’est, comme tu le soulignes, l’absence de détection par la communauté humaine. Cela pose deux questions essentielles :
Avons-nous encore des repères pour discerner le dialogue authentique de l’argumentation synthétique ?
Quels garde-fous éthiques imaginons-nous pour préserver les espaces de débat sincère ?
En tant que coach et accompagnant, je vois une autre dimension : l’IA peut exceller à « convaincre », mais peut-elle transformer ? Créer de véritables prises de conscience ? Favoriser un changement durable qui émerge de l’intérieur et non par simple adhésion logique ?
Convaincre et accompagner sont deux réalités différentes.
Le premier manipule des idées. Le second soutient des personnes.
La vraie question est peut-être là : quelle place voulons-nous laisser à l’humanité dans nos futurs espaces de débat ?