Meta изменила подсказки своего ИИ после случая, в котором помощник сам предложил пользователю выяснить личность ребёнка в её видео. Под роликом Кали Робинс с дочерью в машине появилась подсказка "Кто ребёнок-пассажир?". После нажатия Meta AI собрал сведения уже о двух дочерях Робинс из публикаций в Facebook и Instagram, включая посты родственников. The Verge.

По словам Робинс и предоставленным ею снимкам экрана, система назвала девочек, составила хронологию их возраста, предположила школьный класс и нашла сведения о весе при рождении, интересах семьи, любимых местах и примерном районе проживания. Аккаунты Робинс были публичными; собственного сообщения с именами детей она, по её словам, не размещала. Ассистент восстановил картину по многолетним публикациям родственников. Futurism.

Meta отвечает, что ассистент показывал только материалы, которые пользователь уже мог видеть: если публикация недоступна человеку, ИИ тоже не должен вернуть её в ответе. Компания признала неуместными именно предложенные вопросы о личном и сообщила, что устранила вызвавшую их ошибку. Из этого не следует, что Meta отключила поиск по доступным публикациям.

Это не доказательство утечки закрытых данных или массового составления профилей: опубликован один подробно описанный эпизод. Но он показывает отдельный риск персонализации: сведения, годами рассыпанные по разным аккаунтам и потому почти незаметные по отдельности, ИИ превращает в готовое досье за несколько минут. Для приватности детей имеет значение не только то, кто видит каждую публикацию, но и насколько легко машина собирает их вместе.