La plupart des exemples qu’il donne au niveau des cas d’usage est fait dans un environnement sandbox contrôlé.
Il crée une machine virtuelle et limite l’AI pour ne pas qu’il puisse accéder à des informations sensibles ou faire des actions qui pourraient avoir des consequences négatives.
Le modèle est également susceptible aux attaques de « prompt injection », c’est-à-dire qu’il navigue sur un site web où un prompt est présent dans le contenu qui overtake la directive principale de l’utilisateur.
Bref, tout ça est encore en bêta, il y a beaucoup de kink à repasser, mais le potentiel est là!!