Nvidia сохраняет сильные позиции на рынке инфраструктуры для искусственного интеллекта, хотя крупные технологические компании, включая Amazon и Google, развивают собственные чипы. Ранее инвесторы оценивали перспективы компании главным образом через конкуренцию на рынке графических процессоров. После публикации квартальной отчетности Nvidia внимание сместилось на другие элементы вычислительных систем.
С ростом мощности центров обработки данных до гигаваттного уровня все более важной становится координация работы оборудования. Nvidia поставляет не только графические процессоры, но и компоненты, необходимые для хранения данных, сетевого взаимодействия и управления вычислениями. Это дает компании преимущество в создании целостных систем для крупных центров обработки данных, отмечает TechCrunch.
Компания внедряет архитектуру Vera Rubin, в которую входят графический процессор Rubin, центральный процессор Vera, ускоритель вывода Groq 3 LPX, а также стойки для хранения данных и сетей. Эти решения предназначены для того, чтобы оборудование вокруг графических процессоров работало без задержек и потерь производительности. Чем крупнее вычислительная площадка, тем сложнее обеспечить эффективное взаимодействие всех ее частей.
Центральный процессор Vera отвечает за организацию потоков данных между памятью, накопителями и вычислительными устройствами. По словам вице-президента Nvidia по технологиям хранения данных Джейсона Харди, применение Vera позволило в отдельных операциях повысить производительность более чем в 3 раза. Это помогает использовать возможности флеш-накопителей без узких мест при передаче информации.
Похожую задачу решают и другие разработчики чипов. OpenAI при создании процессора Jalapeño стремилась сократить перемещение данных и задержки связи, сохраняя рабочую нагрузку внутри единой связанной системы. Такой подход должен поддерживать скорость и эффективность обработки запросов на всех этапах.
Новая конкуренция в сфере искусственного интеллекта затрагивает уже не только графические процессоры, но и способность наладить работу всей вычислительной инфраструктуры. Nvidia предстоит соперничать с производителями чипов и крупными облачными компаниями и на этом направлении. Однако на раннем этапе компания, по оценке издания, располагает заметным преимуществом в системной организации вычислений.