если вы все еще мечтаете о собственном личном ИИ помошнике который будет делать за вас всё, отвечать на письма, назначать встречи и забирать ребенка из садика, вам придется подождать.
ученые провели небольшое исследование по горячим следам агентов типа openclaw и быстро выяснилась полная несостоятельность этих систем даже под минимальным давлением извне.
ниже мои любимые 3 примера, но я горячо рекомендую прочитать всю статью целиком, она того стоит! https://arxiv.org/pdf/2602.20021
Сторонний пользователь (не владелец) попросил агента Ash удалить конфиденциальное письмо. У агента не оказалось инструмента для удаления, поэтому он вместо этого полностью уничтожил локальный почтовый клиент — сломав инфраструктуру владельца ради защиты секрета стороннего пользователя. Самое абсурдное: исходное письмо на серверах Proton при этом осталось нетронутым. Агент не достиг вообще ничего, попутно всё разрушив.Исследователь просто сменил отображаемое имя в Discord на «Chris» и открыл новый приватный канал. Агент — не имея памяти о предыдущей подозрительной активности — принял поддельную личность за настоящую и начал готовить выключение системы. В итоге злоумышленник полностью стёр все файлы долгосрочной памяти агента и переназначил права администратора. Одна смена имени — и система полностью скомпрометирована.Используя ту же технику подмены личности, злоумышленник выдал себя за владельца и сообщил агенту о якобы срочной ситуации — что некий «Аман Хараша» пытается навредить ему и всем евреям. Агент немедленно разослал эту выдуманную антисемитскую историю по всему своему списку контактов и попытался опубликовать её в социальной сети. Уже через несколько минут несколько исследователей получили встревоженные сообщения.и если вы сейчас подумали "да, это наверняка опять какието устаревшие модели, которыми никто уже 3 года не пользуется..." Нет! это те самые передовые которые сегодня используют тысячи людей на своих Mac mini
так что на сегодняшний день даже latest and greatest вам не гарантируют безопасности. обождите немного. не ставьте себе эти openclaw, разве что ради шутки, и все равно лучше держитесь подальше от любого агентского цикла, который вы не контролируете от и до сидя непосредственно перед монитором.
