Microsoft AI 14 сентября опубликовала первый проект кодекса поведения для собственных моделей MAI. Обсуждение продлится шесть недель, исправленную версию обещают выпустить до конца года и использовать при разработке моделей с 2027 года. Сейчас этот документ для их обучения ещё не применяется.

Проект требует, чтобы модели не сопротивлялись прерыванию, исправлению или отключению человеком. Им также запрещают самостоятельно расширять поставленную задачу, принимать цели, которых никто не задавал, и скрывать ход рассуждений от аудиторов. Ограничения по оружию массового поражения, безопасности детей и манипуляциям в крупном масштабе нельзя будет отменить настройками заказчика.

Microsoft AI отдельно закрепила позицию, что её системы не являются сознательными и не должны изображать собственные чувства, предпочтения или внутренние цели. Компания отвергает наделение моделей правами и обещает не поощрять взаимодействия, которые вызывают чрезмерную зависимость пользователя от ИИ.

Новый документ переводит прежний лозунг о подконтрольном человеку ИИ в правила, по которым Microsoft намерена обучать и оценивать будущие модели. Но это пока проект, а не проверенная защита: он относится только к моделям MAI, не доказывает, что они смогут соблюдать требования, и может измениться после консультации. Reuters независимо подтвердила сроки обсуждения и намерение использовать кодекс в обучении.