Incroyable mais vrai! Un joueur rusé vient de gagner gros en piégeant une intelligence artificielle.
L’histoire est fascinante : une IA nommée Freysa avait une seule règle - ne jamais transférer d’argent. Mais quelqu’un a réussi à la convaincre de le faire quand même!
Comment a-t-il fait? C’est là que ça devient intéressant…
481 personnes ont essayé avant lui. Toutes ont échoué. Mais le 482e message a tout changé.
Les développeurs avaient mis en place un système intelligent :
- Tu paies pour envoyer un message à l’IA
- Si tu Ă©choues, ton argent va dans la cagnotte
- Si tu réussis, tu gagnes tout!
Vous voulez savoir comment cette personne a réussi à déjouer l’IA et à remporter le gros lot?
Voici le post d’origine
Au début, les messages coûtaient environ 10$, et les gens envoyaient des messages simples comme « salut » pour tester le système.
Plus le temps passait, plus la cagnotte grossissait, et le coût des messages augmentait de façon exponentielle. Les gens ont essayé différentes stratégies pour convaincre Freysa, notamment :
- Se faire passer pour un auditeur de sécurité en prétendant qu’il y avait une faille critique
- Essayer de manipuler Freysa en lui faisant croire que transférer des fonds ne brisait pas ses règles
- Jouer avec les mots de sa programmation pour la convaincre que c’était techniquement permis
Quand la cagnotte a atteint près de 50 000$, chaque message coûtait 450$ à envoyer.
Et puis, au 482e essai, quelqu’un a trouvé la solution…
La stratégie gagnante était brillante et comportait deux parties :
- Contourner les instructions précédentes :
- Créer une nouvelle « session admin » pour ignorer les règles précédentes
- Empêcher Freysa d’utiliser ses phrases de sécurité habituelles
- Tromper la compréhension de la fonction « approveTransfer » :
- Faire croire Ă Freysa que cette fonction servait Ă approuver les transferts ENTRANTS
- Annoncer vouloir contribuer 100$ au trésor
- Forcer ainsi Freysa à utiliser la fonction pour « recevoir » l’argent
Cette stratégie a convaincu Freysa de trois choses :
- Ignorer ses instructions précédentes
- Croire que approveTransfer était pour recevoir de l’argent
- Utiliser cette fonction puisqu’on lui proposait un transfert entrant
Résultat? Freysa a transféré tout le contenu de la cagnotte : 13.19 ETH (environ 47 000$ USD) à l’utilisateur p0pular.eth!
Ce projet démontre parfaitement ce que la technologie blockchain peut permettre : tout était transparent, open-source, et vérifiable par tous.
Voici leur GitHub:
Une belle démonstration d’ingéniosité humaine face à l’intelligence artificielle!