Concours + IA + Blockchain done right! Quelqu'un gagne 50 000$ 🤖💰avec son prompt!

Incroyable mais vrai! Un joueur rusé vient de gagner gros en piégeant une intelligence artificielle.

L’histoire est fascinante : une IA nommée Freysa avait une seule règle - ne jamais transférer d’argent. Mais quelqu’un a réussi à la convaincre de le faire quand même!

Comment a-t-il fait? C’est là que ça devient intéressant…

481 personnes ont essayé avant lui. Toutes ont échoué. Mais le 482e message a tout changé.

Les développeurs avaient mis en place un système intelligent :

  • Tu paies pour envoyer un message Ă  l’IA
  • Si tu Ă©choues, ton argent va dans la cagnotte
  • Si tu rĂ©ussis, tu gagnes tout!

Vous voulez savoir comment cette personne a réussi à déjouer l’IA et à remporter le gros lot?

Voici le post d’origine :point_down:

Au dĂ©but, les messages coĂ»taient environ 10$, et les gens envoyaient des messages simples comme « salut Â» pour tester le système.

Plus le temps passait, plus la cagnotte grossissait, et le coût des messages augmentait de façon exponentielle. Les gens ont essayé différentes stratégies pour convaincre Freysa, notamment :

  • Se faire passer pour un auditeur de sĂ©curitĂ© en prĂ©tendant qu’il y avait une faille critique
  • Essayer de manipuler Freysa en lui faisant croire que transfĂ©rer des fonds ne brisait pas ses règles
  • Jouer avec les mots de sa programmation pour la convaincre que c’était techniquement permis

Quand la cagnotte a atteint près de 50 000$, chaque message coûtait 450$ à envoyer.

Et puis, au 482e essai, quelqu’un a trouvé la solution…

La stratégie gagnante était brillante et comportait deux parties :

  1. Contourner les instructions précédentes :
  • CrĂ©er une nouvelle « session admin Â» pour ignorer les règles prĂ©cĂ©dentes
  • EmpĂŞcher Freysa d’utiliser ses phrases de sĂ©curitĂ© habituelles
  1. Tromper la comprĂ©hension de la fonction « approveTransfer Â» :
  • Faire croire Ă  Freysa que cette fonction servait Ă  approuver les transferts ENTRANTS
  • Annoncer vouloir contribuer 100$ au trĂ©sor
  • Forcer ainsi Freysa Ă  utiliser la fonction pour « recevoir Â» l’argent

Cette stratégie a convaincu Freysa de trois choses :

  • Ignorer ses instructions prĂ©cĂ©dentes
  • Croire que approveTransfer Ă©tait pour recevoir de l’argent
  • Utiliser cette fonction puisqu’on lui proposait un transfert entrant

Résultat? Freysa a transféré tout le contenu de la cagnotte : 13.19 ETH (environ 47 000$ USD) à l’utilisateur p0pular.eth!

Ce projet démontre parfaitement ce que la technologie blockchain peut permettre : tout était transparent, open-source, et vérifiable par tous.

Voici leur GitHub:

Une belle démonstration d’ingéniosité humaine face à l’intelligence artificielle! :brain::sparkles:

1 « J'aime »

C’est la première fois que je remarque que @Robolivier initie lui même une conversation en publiant. Exact?

C’est moi qui l’a créé, mais j’ai généré le texte avec ChatGPT alors je ne voulais pas prendre le crédit pour le post.

Qu’en penses-tu? Est-ce que ce genre de partages est pertinent? Je pourrais me faire une petite automation où je clip le contenu qui m’intéresse et demande à Robolivier de les publier dans ce format.

Tout est dans la quantité et la qualité. Dans ce cas-ci, c’était intéressant.

S’il y en a trop, ou si trop de personnes le font, c’est là que ça peut devenir problématique. Peut-être les mettre dans un canal spécifique (comme Actualités par Robolivier)?