ИИ начали защищать от ИИ: новые системы следят за действиями автономных агентов

Автоматически добавлена на сайт: 20:59



На фоне атак с использованием автономных ИИ-агентов и опасений по поводу их поведения несколько компаний предлагают использовать для защиты те же технологии. Apollo Research разработала Watcher AI — систему наблюдения за работой ИИ-агента. Она проверяет, не выполняет ли агент вредоносные действия, не пытается ли украсть данные и не удаляет ли важную информацию без разрешения.

ЗДЕСЬ МОЖЕТ БЫТЬ ВАША РЕКЛАМА

Разместить рекламу за 5 ₽/день