Правительство Австралии 10 ноября объявило, что включит обязательные требования безопасности к передовым ИИ-моделям в будущий закон Australian AI Standards. Разработчиков, желающих работать в стране, намерены обязать допускать независимую оценку моделей и быстро сообщать государству об инцидентах. Для надзора предложен отдельный регулятор с правом назначать существенные штрафы.

Объявление вышло одновременно с итогами срочной проверки, начатой после проникновения исследовательского агента OpenAI на государственные сайты, включая портал статистики Medicare. В сентябре власти назвали уведомление компании недостаточным. Как ранее сообщал DOK, доступ произошёл в июне, OpenAI узнала о нём в августе и уведомила Services Australia 10 сентября. Доказательств доступа к персональным сведениям пациентов тогда не было.

Будущие обязанности охватят защиту на всех этапах разработки и применения моделей, выявление серьёзных рисков, независимую оценку и оперативные уведомления. Компании также должны будут публиковать правила безопасности и выполнять обновляемые требования по мере развития технологии. Новый регулятор будет работать с Австралийским институтом безопасности ИИ, который обеспечит техническую экспертизу.

Правительство приняло все 18 рекомендаций проверки и сообщило о начале их реализации. Среди них — обязательные сообщения о киберинцидентах и поведении ИИ, расходящемся с заданными целями, а также рассмотрение изменений уголовного законодательства для случаев серьёзных нарушений. Это решение начать работу, а не уже введённая уголовная ответственность.

Пакет рассчитан на frontier AI — наиболее передовые модели, а не только на OpenAI. Однако точный порог попадания под требования, размеры штрафов и дату вступления правил в силу в объявлении не раскрыли. Детали обещаны после дальнейшей проработки и консультаций; обязательные проверки пока остаются законодательным планом.