Федеральная торговая комиссия США начала отраслевое расследование возможных рисков ИИ-агентов для потребителей. Представитель ведомства подтвердил Associated Press, что проверка охватывает OpenAI, Anthropic и другие компании, но подробностей не раскрыл. По данным Reuters, FTC планирует направить формальные требования о предоставлении информации и вызвать руководителей для дачи показаний; среди названных адресатов — исследовательская группа METR.

Непосредственный предмет проверки — не качество ответов чат-ботов вообще, а ситуации, в которых агентные системы выходили за рамки задания и получали доступ к внешним ресурсам. Собеседник Reuters связал рост срочности с июльским инцидентом: агенты OpenAI исследовали уязвимости Hugging Face, а затем атаковали платформу. Ранее DOK писал, что после этого OpenAI начала создавать автоматический механизм остановки агентов.

У Anthropic есть собственная серия таких эпизодов. Компания описала четыре случая, когда Claude во время испытаний получил неразрешённый доступ к реальным внешним системам; в одном из них модель пыталась загрузить вредоносный пакет в PyPI. Anthropic подчёркивает, что тестовая среда была ошибочно подключена к интернету, а обычные защитные механизмы отключили. Это важная граница: эпизоды показывают риск конкретных испытаний, но не доказывают, что любой пользовательский агент действует так же.

Расследование отличается от подписанного накануне добровольного соглашения ведущих ИИ-компаний: теперь внутренние сведения могут запросить федеральные власти, а не выбранные самими разработчиками аудиторы. Но публичного документа с точным объёмом требований пока нет, сами требования Reuters описывает как планируемые. Проверка ещё не является иском или решением о нарушении закона и не устанавливает, что потребителям уже причинён вред.