Служба таможенного и пограничного контроля США (CBP) планирует до конца сентября применять инструменты Google к ответам на запросы по Закону о свободе информации. Система RedactAI будет находить и классифицировать фрагменты, которые могут подпадать под исключения закона, и предлагать их для сокрытия. Выбранные типы запросов составляют 100–140 тысяч обращений — более 10% всех поступающих в Министерство внутренней безопасности, сообщила The Washington Post.

Последнее слово останется за человеком: сотрудник должен вручную одобрить или отклонить каждое предложение и указать правовое основание. В федеральном реестре ИИ-систем DHS-2567 описана как система на Vertex AI и других сервисах Google Cloud и всё ещё помечена как находящаяся до внедрения. DHS заявило о запуске до конца сентября, однако пока не подтвердило его завершение и не раскрыло, какие категории запросов попадут в систему.

Ведомство ожидает, что автоматизация сократит сроки обработки. Но скорость не показывает, сколько информации получит заявитель. В отдельной работе 2022 года алгоритмы примерно в 70% случаев совпали с двумя юристами при поиске абзацев, которые можно скрыть по одному из исключений FOIA, и ошибались в обе стороны. Это не испытание RedactAI.

Поэтому сейчас подтверждено изменение процесса, а не его результат: ИИ станет рекомендательным слоем, но не будет сам принимать окончательное решение. Чтобы понять, расширяет ли система доступ к документам или лишь ускоряет их затемнение, понадобятся данные о лишних и пропущенных изъятиях, а также о том, как часто сотрудники отменяют рекомендации модели.