Компания Nvidia, известная своими графическими процессорами (GPU) для искусственного интеллекта, всё активнее делает ставку на сопутствующее оборудование. Речь идёт о системах, которые управляют потоками данных в дата-центрах гигаваттного масштаба.
По данным TechCrunch, на этой неделе после публикации финансового отчёта инвесторы начали осознавать, что преимущество Nvidia выходит далеко за рамки GPU. Компания строит целые стойки серверов, где ключевую роль играют не только графические ускорители, но и процессоры для оркестрации данных, такие как Vera CPU.
Новая архитектура Vera Rubin включает не только Rubin GPU, но и Vera CPU, ускоритель вывода Groq 3 LPX и другие компоненты. Эти блоки не обрабатывают токены напрямую, а обеспечивают максимальную эффективность работы всей системы. По словам вице-президента Nvidia по технологиям хранения Джейсона Харди, Vera CPU позволяет ускорить операции до трёх раз, устраняя узкие места при передаче данных из флеш-памяти.
Проблема, которую решает Nvidia, знакома всей отрасли. OpenAI при разработке своего чипа Jalapeño также сосредоточилась на минимизации перемещения данных, размещая весь рабочий процесс в одном чипе. Это подтверждает, что конкуренция смещается от сырой вычислительной мощности к эффективности управления данными.
Для белорусских читателей эта новость важна, поскольку она показывает, куда движется глобальная ИТ-инфраструктура. Понимание этих трендов может помочь при выборе технологий для локальных проектов или при планировании карьеры в сфере дата-центров и облачных вычислений.
Пока конкуренты только начинают осваивать этот уровень, Nvidia уже имеет значительное преимущество. Однако, как и в случае с GPU, борьба за лидерство в системах оркестрации данных только начинается.
