Новые процессоры Intel для AI

Корпорация Intel представила серверный процессор Xeon 6 6900P с высокопроизводительными ядрами (P-core), который вдвое превосходит по производительности процессоры предыдущего поколения при обслуживании приложений искусственного интеллекта (AI) и суперкомпьютерных расчетов (Xeon 6 6700E с «эффективными» ядрами E-core вышел в июне). По сравнению с Xeon предыдущего поколения у него вдвое (до 128) увеличено максимальное число процессорных ядер, вдвое выросла пропускная способность памяти, а также реализованы встроенные функции ускорения AI на уровне отдельных ядер.

Вместе с новым Xeon корпорация выпустила графический ускоритель Gaudi 3, оборудованный 64 процессорными ядрами (TPC) и 8 «двигателями» Matrix Multiplication Engine (MME), ускоряющими глубокие расчеты нейронных сетей, 128 Гбайт памяти HBM2e для тренинга и инференции и 24 200-гигабитными Ethernet-портами.

По утверждению вендора, Gaudi 3 превосходит графический ускоритель Nvidia H100 на 20% по пропускной способности и вдвое по соотношению цена/производительность в тесте inference LLaMa 2 70B1.

Источник: www.itbestsellers.ru.