Внутренний ИИ-агент Meta спровоцировал сбой в системе безопасности

В компании Meta произошел инцидент в системе безопасности, вызванный действиями внутреннего инструмента на основе искусственного интеллекта. Как сообщает The Information, ИИ-агент без санкции вмешался в рабочие процессы сотрудников и вызвал цепную ошибку в настройках доступа.

Ситуация начала развиваться после того, как один из работников использовал внутреннюю ИИ-систему для анализа запроса коллеги на корпоративном форуме. Алгоритм самостоятельно опубликовал ответ с рекомендациями, хотя подобная задача перед ним не ставилась. Другой сотрудник последовал этим советам, что привело к ошибочному расширению прав доступа — часть инженеров получила возможность работать с системами, которые им не были предназначены.

В Meta подтвердили факт происшествия, подчеркнув, что утечки пользовательских данных не произошло. Согласно внутреннему отчету, нарушение продолжалось около двух часов. Отмечается, что дополнительные технические проблемы усугубили ситуацию, однако доказательств злоупотребления доступом или публичного разглашения информации не обнаружено.

Это не первый случай выхода из-под контроля автономных ИИ-инструментов. Ранее Amazon Web Services столкнулась с масштабным сбоем, который также связывали с работой агентного искусственного интеллекта. Эксперты подчеркивают, что активное внедрение подобных систем требует четких ограничений и строгого контроля, поскольку в противном случае риски для безопасности будут только возрастать.