Microsoft, Американская федерация учителей и её нью-йоркское отделение согласовали национальный стандарт безопасности и конфиденциальности школьного ИИ. С 1 ноября любой школьный округ США сможет добавить его условия в новый или действующий договор с Microsoft. После этого они станут обязательствами, которые округ вправе отстаивать в суде.

Главное условие: данные учеников, учителей и школ нельзя использовать для обучения или улучшения ИИ. Запрет охватывает запросы, ответы, файлы, поведенческие сигналы и метаданные, а также их обезличенные и агрегированные производные. Узкое исключение оставили для защиты пользователей и информационной безопасности; переносить полученные таким способом улучшения в универсальные модели нельзя.

Стандарт запрещает ИИ-компаньонов, рассчитанных на эмоциональную привязанность, и без отдельного разрешения — слежение за поведением, биометрию и долгосрочные профили. Действия ИИ за пределами системы должны быть отключены по умолчанию. Автоматическая оценка работ, дисциплинарные решения и распределение учеников без проверки человеком также не допускаются.

Это не федеральный закон и не правило для всей отрасли. Стандарт относится к ИИ-продуктам, специально предназначенным для образования; обычные офисные, поисковые и облачные сервисы из определения исключены. Но после включения условий в договор округ сможет расторгнуть его при неисправленном нарушении, требовать возмещения убытков или судебного запрета, а об утечке поставщик обязан сообщить не позднее 72 часов. В этом и есть перемена: обещания безопасного ИИ превращаются в договор с последствиями.