Apple 22 сентября начала поставки новых Mac Studio с M5 Max и M5 Ultra и показала кластер из четырёх компьютеров, локально запускающий ИИ-модель с триллионом параметров. В демонстрации модель искала и исправляла ошибку в графическом коде, сообщает Reuters.

Машины связали через Thunderbolt 5 и RDMA — удалённый прямой доступ к памяти. Эта технология создаёт общий пул памяти нескольких Mac Studio: в отличие от обычного распределения отдельных запросов между компьютерами, один слишком большой для одной машины ИИ можно разместить на всём кластере. По данным Apple, четыре устройства ускоряют инференс до трёх раз по сравнению с одним.

Новые компьютеры уже поступают в продажу, но конфигурация M5 Ultra с максимальными 512 ГБ общей памяти ожидается только в конце октября. Самые дорогие сборки стоят почти $20 тысяч за устройство. Apple предлагает компаниям заменить плату за облачные токены покупкой собственного оборудования; показанный кластер, по словам компании, питается от одной розетки.

Однако Apple не назвала использованную модель, точную конфигурацию машин, формат весов, скорость и продолжительность опыта. Независимого сравнения с облачным сервером тоже нет. Демонстрация подтверждает, что четыре связанных Mac Studio справились с одной задачей модели на триллион параметров, но не доказывает, что такой кластер дешевле дата-центра, годится для обучения или способен заменить облако вообще.