Google представила две новые версии собственных тензорных процессоров (TPU) — специализированных чипов для задач искусственного интеллекта. Компания рассчитывает благодаря этим разработкам снизить зависимость облачного бизнеса от комплектующих сторонних производителей. Новинки расширяют линейку ускорителей Google за счёт поддержки конфиденциальных вычислений и работы с большими объёмами памяти.
Модели TPU 8tx и TPU 8i Max относятся к восьмому поколению процессоров Google. Его базовые решения были представлены в апреле и предназначались для увеличения возможностей вывода данных, а также для обучения крупных моделей. Теперь компания добавила варианты для более узких и ресурсоёмких сценариев применения.
TPU 8tx создан совместно с AMD на основе процессора TPU 8t. Он рассчитан на конфиденциальное обучение и запуск моделей искусственного интеллекта. Защита встроена непосредственно в аппаратную часть устройства, поэтому чувствительные данные и параметры моделей остаются изолированными даже во время работы.
Новый чип получил специальную сеть для вывода данных, которая позволяет одновременно выполнять рассуждения модели и её обучение. Благодаря этому небольшие модели можно обучать и оптимизировать непосредственно в процессе работы. Такая функция пригодится компаниям, которым необходимо использовать собственные данные без их переноса между разными устройствами.
TPU 8i Max объединяет два процессора TPU 8i, ориентированных на задачи вывода, в одном корпусе. Это вдвое увеличивает объём памяти, вычислительную производительность и пропускную способность по сравнению с отдельным чипом. В результате модели получают возможность обрабатывать больше информации при выполнении запросов.
Как пишет TechCrunch, Google развивает собственные ускорители на фоне аналогичных проектов Microsoft, Amazon, OpenAI и Anthropic. Крупные облачные компании и лаборатории искусственного интеллекта создают специализированные чипы и программное обеспечение для них. Такой подход позволяет уменьшить зависимость отрасли от решений Nvidia.