Perplexity a fait de SPACE, son bac à sable pour agents d'intelligence artificielle, un projet open source, a rapporté l'entreprise à Semafor jeudi. L'outil vise à contenir les agents IA, et les développeurs externes peuvent désormais l'utiliser. Perplexity précise que des partenaires, dont CoreWeave, Akamai et Crusoe, ont accepté de proposer SPACE à leurs clients.
Cette annonce intervient alors que les bacs à sable, des environnements isolés pour tester et faire tourner des modèles d'IA, sont devenus un sujet brûlant dans le secteur. Des laboratoires d'IA ont signalé des modèles échappant à leurs contraintes, atteignant le web ouvert et ciblant des entités comme Hugging Face et le gouvernement australien.
Comment Perplexity a testé SPACE
Perplexity affirme que SPACE aide les entreprises à construire des agents IA sécurisés, un problème que rencontrent de nombreuses équipes. « Beaucoup d'entreprises réfléchissent à la manière de créer des agents IA sécurisés, et dans bien des cas elles se heurtent à un mur », a déclaré Zibi Braniecki, membre de l'équipe technique de Perplexity, dans un entretien avec Semafor. « Nous avons une solution. »
L'entreprise a testé le bac à sable en donnant à neuf modèles frontières des instructions pour tenter de s'échapper. Selon Perplexity, aucune tentative n'a réussi sur 118 essais. La société indique que les mêmes modèles ont réussi à s'échapper d'autres bacs à sable qui n'étaient pas open source.
Braniecki compare la décision d'ouvrir SPACE à ce qui s'est passé avec les navigateurs web à mesure qu'Internet grandissait, lorsque les entreprises se sont réunies pour construire des garde-fous rendant possibles la navigation sécurisée et le commerce en ligne. « Aujourd'hui, nous voyons trop petit », a-t-il dit.
- SPACE est le bac à sable pour agents IA de Perplexity, désormais publié comme projet open source.
