Robust Intelligence s'associe à Pinecone pour sécuriser les applications d'IA de génération augmentée par récupération

San Francisco, Californie / ACCESSWIRE / 25 juin 2024 / Robust Intelligence, une société de sécurité des applications d'IA, annonce un partenariat avec Pinecone pour s'intégrer à Canopy, le framework open source de Pinecone, afin de simplifier le développement d'applications de génération augmentée par récupération (RAG). .

RAG améliore les applications d'IA en les enrichissant d'informations contextuellement pertinentes grâce à la connexion de grands modèles de langage (LLM) à des bases de données vectorielles. Cependant, cela implique des composants complexes et présente plusieurs risques en matière de sûreté et de sécurité, tels que l’exfiltration de données et les attaques par injection.

Canopy de Pinecone, lancé fin 2023, simplifie le développement d'applications RAG avec des fonctionnalités telles que l'intégration de données et l'optimisation des requêtes. L'intégration de Robust Intelligence avec Canopy améliore la sécurité de la base de données vectorielles de Pinecone, en examinant les téléchargements pour détecter des risques tels que des données empoisonnées et du contenu malveillant.

Ce partenariat vise à créer des applications RAG transparentes et sécurisées. Une fois l'analyse de sécurité activée, toutes les données téléchargées dans la base de données sont soumises à des contrôles de sécurité automatiques pour garantir le respect des normes de sécurité.

Cette collaboration souligne l’importance d’intégrer la sécurité dès les premières étapes du développement d’applications d’IA, garantissant ainsi que les organisations disposent de mesures robustes pour protéger les données sensibles.