ГПУ или ЦПУ: чего нужно больше для решения ИИ-задач

Впервые за всю свою историю компания AMD, известная как разработчик альтернативных продукции Intel центральных процессоров архитектуры x86, достигла рыночной капитализации в 1 трлн долл. Произошло это, конечно же, благодаря непрекращающемуся ажиотажу вокруг искусственного интеллекта. Но все-таки в сегменте серверных графических процессоров, непосредственно выполняющих ИИ-вычисления, по-прежнему доминирует Nvidia, занимая там около 80%. Рывок к триллиону удался AMD именно потому, что ее центральные (а вовсе не графические) процессоры стали в последнее время пользоваться особенным спросом: выручка одного только подразделения Data Center unit, занимающегося их поставками, выросла за год на поражающие воображение 107% – до 6,7 млрд долл.

Ситуацию нельзя назвать типичной для направления серверного ИИ: с самого начала всемирного бума вокруг генеративных языковых моделей основная вычислительная нагрузка приходилась как раз на графические, а не на центральные процессоры. В 2023 г. типичное соотношение ГПУ:ЦПУ в облачном ЦОДе, решающем ИИ-задачи, могло достигать 8:1, спустя пару лет снизилось до 4:1, однако уже сегодня оно близко к 1:1 – и дальше, судя по всему, значимость центральных процессоров продолжит увеличиваться. Суть в том, что если прежде инференс (обработка пользовательских запросов языковыми моделями) подразумевал просто эмуляцию работы предварительно обученной нейросети в памяти ГПУ, то теперь настало время агентных вычислений – а ИИ-агентам для эффективного исполнения своих задач необходимы как раз центральные процессоры.

Системы агентного ИИ реализуют итеративные многоэтапные процессы, в ходе которых занимаются планированием, поиском данных, исполнением кода, вызовом внешних инструментов и пр. Важно, что агентные процессы, в отличие от матричного умножения – к которому сводится работа нейросетей на ГПУ, – куда хуже поддаются распараллеливанию. Задачи координации при их исполнении носят последовательный характер и требуют сложной логической обработки, что как раз и повышает потребность агентного ИИ в ресурсах ЦПУ – доступных потоках высокопроизводительных линейных (в смысле, не матричных) вычислений.

Впрочем, достигнутое ныне соотношение ГПУ:ЦПУ на уровне 1:1, как утверждают многие эксперты, это только начало. Так, признанная в России экстремистской компания Meta активно развивает направление персональных ИИ-агентов семейства Muse, кроме того, в разработке сегодня находятся по меньшей мере два аналогичных проекта – Instinct от Spear Street Technology и не имеющий пока официального названия продукт OpenAI. Назначение таких решений – взаимодействовать с веб-сайтами и приложениями подобно людям, освобождая последних от рутины и непроизводительных затрат времени. Оценивая, насколько потребности существенно агентных ИИ-систем в серверном «железе» изменят ситуацию в этом сегменте, эксперты не исключают даже взлета соотношения ГПУ:ЦПУ до 1:40.

Базируются эти прогнозы на достаточно прочном основании. Взять, к примеру, уже действующий ИИ-агент Muse. Он функционирует на базе выделенного (и изолированного, разумеется, из соображений информационной безопасности) облачного компьютера, «конфиденциальной виртуальной машины» (Confidential Virtual Machine, CVM). На этом компьютере развернут технологический браузер (с которым пользователь Muse никак не контактирует) для хранения учетных данных, истории запросов и добытой из Сети информации. Дополнительный модуль защиты, Sentinel («Страж»), непрерывно контролирует эту виртуальную рабочую среду, не допуская, чтобы агент совершал какие бы то ни было чувствительные транзакции (вроде покупок на сайтах) без одобрения как самого Sentinel, так и выдавшего запрос пользователя.

Итого для обслуживания одного клиента Muse экстремистская Meta вынуждена задействовать не менее 2–5 вычислительных потоков (особенно если посещаемые агентом страницы насыщены мультимедиа), т. е. физических процессорных ядер. Еще более функционален – и потому куда требовательнее по части ресурсов ЦПУ – ИИ-агент Instinct: он вовсе не полагается на разработанные для людей приложения или панели управления. Пользователь отдает ему команды через сообщения в мессенджере, текстовые либо голосовые, после чего Instinct сам подключается к электронной почте, иным средствам коммуникации, календарю, данным о местоположении, экрану, аудиосистеме и другим устройствам или учетным записям (с разрешения запустившего его человека, конечно же) и выполняет реальные задачи от имени оператора – также задействуя для этого постоянно работающую в облаке выделенную CVM.

Поскольку агентные среды функционируют непрерывно – даже когда пользователь закрывает приложение, ведь иначе пропадет история взаимодействия, файлы cookies и множество разнообразных настроек, – они требуют значительных вычислительных мощностей от серверных центральных процессоров. Для примера: когда описанный выше Muse исполняет такую сложную автономную задачу, как кроссплатформенное сравнение цен на путешествия, он инициирует до полутора сотен отдельных поисковых запросов для одного маршрута. Именно это разгоняет спрос на процессоры: по оценкам Goldman Sachs, на закупку ЦПУ гиперскейлеры уже направляют больше средств, приобретая «железо» для новых своих серверов, чем на графические ускорители.

Так что соотношение ГПУ:ЦПУ уже фактически вышло из неустойчивого равновесия – и если ажиотаж вокруг ИИ вообще и агентов в частности еще какое-то время не стихнет, за не самый длительный срок это соотношение вполне сумеет достичь предсказанных 1:40.