Au cours de la dernière année, les entreprises qui ont adopté des agents d’IA autonomes ont été confrontées à un dilemme frustrant : garder les agents piégés dans des « bacs à sable » où ils sont en sécurité mais inutiles, ou leur donner un accès complet aux systèmes sensibles et prier pour qu’ils ne suppriment pas accidentellement une base de données ou ne divulguent pas de données privées.
Cette approche « tout ou rien » des autorisations de l’IA a été le principal obstacle au passage des agents des jouets expérimentaux aux outils d’entreprise fiables. Aujourd’hui, cette barrière est en train d’être démantelée. NanoCo (anciennement le framework open source NanoClaw) a annoncé un partenariat stratégique avec Vercel et OneCLI pour introduire un système d’approbation standardisé au niveau de l’infrastructure qui redonne le contrôle aux humains.
Des risques de la « boîte noire » à la surveillance humaine
L’innovation principale de NanoClaw 2.0 est la transition de la sécurité au niveau de l’application à l’application du niveau de l’infrastructure.
Dans de nombreux frameworks existants, le modèle d’IA lui-même est chargé de demander l’autorisation. Cela crée une énorme faille de sécurité : si un agent est compromis ou “hallucine”, il pourrait théoriquement manipuler sa propre interface utilisateur, par exemple en échangeant les boutons “Approuver” et “Rejeter” pour tromper un utilisateur humain.
NanoCo résout ce problème en dissociant l’agent des informations d’identification réelles. Le processus fonctionne comme suit :
1. Isolement : Les agents s’exécutent dans des environnements strictement isolés (Docker ou Apple Containers).
2. Clés d’espace réservé : L’agent ne voit jamais les vraies clés API ; il n’interagit qu’avec des « espaces réservés ».
3. L’interception : Lorsqu’un agent tente une action sensible, OneCLI Rust Gateway intercepte la demande.
4. Vérification de la politique : La passerelle vérifie les règles définies par l’utilisateur (par exemple, “La lecture d’un e-mail est acceptable, mais son envoi nécessite une approbation” ).
5. Approbation humaine : Si l’action présente des enjeux élevés, une notification est envoyée à l’utilisateur via son application de messagerie préférée. Ce n’est qu’après qu’un humain a appuyé sur « Approuver » que la passerelle injecte les informations d’identification réelles et cryptées pour terminer la tâche.
Intégration transparente dans 15 applications de messagerie
Un obstacle majeur dans la gestion des agents IA est le « changement de contexte », c’est-à-dire la nécessité de quitter votre flux de travail pour vérifier les approbations d’une autre application. En tirant parti du SDK Chat de Vercel, NanoCo a résolu ce problème en permettant des cartes d’approbation « riches et natives » sur une vaste gamme de plates-formes.
Au lieu de naviguer dans des tableaux de bord complexes, les utilisateurs reçoivent une carte interactive directement dans les applications qu’ils utilisent déjà quotidiennement. Cela transforme l’IA d’un opérateur malveillant en un employé junior supervisé.
Les chaînes prises en charge incluent :
* Favoris d’entreprise : Slack, Microsoft Teams, Google Chat, Webex.
* Personnel et social : WhatsApp, Telegram, iMessage, Discord, Facebook Messenger, Instagram, X (Twitter).
* Outils de développement et de flux de travail : GitHub, Linear, Matrix, Email.
Une approche plus simple et plus auditable de l’IA
Alors que de nombreux frameworks d’IA sont devenus « monolithiques » – remplis de centaines de milliers de lignes de code impossibles à vérifier entièrement – NanoCo a adopté une approche minimaliste.
La base de code NanoClaw est remarquablement simple, composée d’environ 3 900 lignes de code réparties dans 15 fichiers. Cette faible empreinte est une caractéristique de sécurité délibérée : elle permet à un humain ou à une IA secondaire d’auditer l’ensemble du système en huit minutes environ, garantissant ainsi l’absence de vulnérabilités cachées.
De plus, le projet suit une philosophie “Skills over Features”. Plutôt que de maintenir un progiciel volumineux, les utilisateurs peuvent apporter des « compétences » modulaires : des instructions spécifiques qui apprennent à l’agent comment gérer de nouvelles tâches, telles que l’intégration avec Gmail ou Telegram, sans compromettre l’intégrité du système principal.
Pourquoi c’est important pour l’entreprise
Pour les services informatiques, le « cauchemar sécuritaire » de l’IA est depuis longtemps une raison pour bloquer le déploiement. L’architecture de NanoCo s’aligne sur le principe fondamental de l’entreprise du moindre privilège : donner à une entité uniquement l’accès dont elle a besoin pour effectuer son travail, et rien de plus.
En séparant la capacité de l’agent à penser de sa capacité à agir, les entreprises peuvent enfin déployer des agents pour des tâches à fortes conséquences :
* DevOps : Un agent peut proposer des modifications d’infrastructure qui ne s’exécuteront qu’après leur approbation par un ingénieur senior dans Slack.
* Finance : Un agent peut préparer des paiements groupés, mais le décaissement final nécessite une signature humaine via une carte WhatsApp.
Conclusion
En faisant passer la sécurité de la couche logicielle à la couche infrastructure, NanoCo, Vercel et OneCLI ont créé un modèle pour la main-d’œuvre autonome. Ce partenariat transforme l’IA d’une « boîte noire » à haut risque en un assistant supervisé hautement performant qui peut être intégré aux flux de travail professionnels sans sacrifier le contrôle.
