В течение последнего года компании, внедряющие автономных ИИ-агентов, сталкивались с неприятной дилеммой: либо держать агентов в «песочницах», где они безопасны, но бесполезны, либо предоставлять им полный доступ к критически важным системам и молиться, чтобы они случайно не удалили базу данных или не допустили утечки конфиденциальных данных.
Этот подход «всё или ничего» в вопросах прав доступа ИИ стал главным препятствием на пути превращения агентов из экспериментальных игрушек в надежные корпоративные инструменты. Сегодня это препятствие устраняется. Компания NanoCo (ранее известная как open-source фреймворк NanoClaw) объявила о стратегическом партнерстве с Vercel и OneCLI для внедрения стандартизированной системы подтверждения на уровне инфраструктуры, которая возвращает контроль в руки человека.
От рисков «черного ящика» к надзору с участием человека
Ключевая инновация NanoClaw 2.0 заключается в переходе от безопасности на уровне приложений к обеспечению безопасности на уровне инфраструктуры.
Во многих существующих фреймворках за запрос разрешения отвечает сама модель ИИ. Это создает огромную брешь в безопасности: если агент будет взломан или начнет «галлюцинировать», он теоретически сможет манипулировать собственным пользовательским интерфейсом — например, поменять местами кнопки «Одобрить» и «Отклонить», чтобы обмануть пользователя.
NanoCo решает эту проблему, отделяя агента от реальных учетных данных. Процесс выглядит следующим образом:
1. Изоляция: Агенты работают внутри строго изолированных сред (Docker или Apple Containers).
2. Заглушки ключей: Агент никогда не видит настоящие API-ключи; он взаимодействует только с «заглушками».
3. Перехват: Когда агент пытается совершить конфиденциальное действие, шлюз OneCLI на Rust перехватывает запрос.
4. Проверка политик: Шлюз проверяет правила, заданные пользователем (например, «Читать электронную почту — можно, но отправка письма требует подтверждения» ).
5. Человеческое одобрение: Если действие имеет высокую значимость, пользователю отправляется уведомление через удобный мессенджер. Только после того, как человек нажмет «Одобрить», шлюз внедряет реальные зашифрованные учетные данные для выполнения задачи.
Бесшовная интеграция в 15 мессенджеров
Серьезным препятствием при управлении ИИ-агентами является «переключение контекста» — необходимость прерывать рабочий процесс, чтобы проверить другое приложение на наличие запросов на подтверждение. Используя Vercel Chat SDK, NanoCo решила эту проблему, внедрив «богатые нативные» карточки подтверждения в огромном количестве платформ.
Вместо того чтобы копаться в сложных панелях управления, пользователи получают интерактивную карточку прямо в тех приложениях, которыми они пользуются ежедневно. Это превращает ИИ из непредсказуемого оператора в подконтрольного младшего сотрудника.
Поддерживаемые каналы включают:
* Корпоративные фавориты: Slack, Microsoft Teams, Google Chat, Webex.
* Личные и социальные сети: WhatsApp, Telegram, iMessage, Discord, Facebook Messenger, Instagram, X (Twitter).
* Инструменты разработки и рабочего процесса: GitHub, Linear, Matrix, Email.
Более лаконичный и проверяемый подход к ИИ
В то время как многие ИИ-фреймворки стали «монолитными» — раздутыми сотнями тысяч строк кода, которые невозможно полностью проверить, — NanoCo выбрала минималистичный подход.
Кодовая база NanoClaw удивительно компактна и состоит примерно из 3 900 строк кода в 15 файлах. Такая малая площадь атаки является намеренной функцией безопасности: она позволяет человеку или вторичному ИИ провести аудит всей системы примерно за восемь минут, гарантируя отсутствие скрытых уязвимостей.
Кроме того, проект следует философии «Навыки важнее функций» (Skills over Features). Вместо поддержки громоздкого программного пакета пользователи могут добавлять модульные «Навыки» — специфические инструкции, которые обучают агента выполнению новых задач (например, интеграции с Gmail или Telegram) без нарушения целостности основной системы.
Почему это важно для бизнеса
Для ИТ-отделов «кошмар безопасности», связанный с ИИ, долгое время был причиной запрета его внедрения. Архитектура NanoCo соответствует фундаментальному корпоративному принципу наименьших привилегий : предоставление субъекту только того доступа, который необходим для выполнения работы, и ничего лишнего.
Разделив способность агента думать и его способность действовать, компании могут, наконец, внедрять агентов для выполнения критически важных задач:
* DevOps: Агент может предлагать изменения в инфраструктуре, которые вступят в силу только после того, как ведущий инженер одобрит их в Slack.
* Финансы: Агент может готовить пакетные платежи, но окончательная выплата требует подписи человека через карточку в WhatsApp.
Заключение
Перенеся безопасность с уровня программного обеспечения на уровень инфраструктуры, NanoCo, Vercel и OneCLI создали чертеж для автономной рабочей силы. Это партнерство превращает ИИ из высокорискованного «черного ящика» в высокоэффективного подконтрольного помощника, который можно интегрировать в профессиональные рабочие процессы без потери контроля.
