OpenAI столкнулась с огромными расходами на поддержание популярной языковой модели ChatGPT

OpenAI Inc. столкнулась с огромными расходами на поддержание популярной языковой модели ChatGPT. По данным, компания тратит более 700 000 долларов в день на инфраструктуру и вычислительную мощность ИИ. Популярность модели привела к значительному росту операционных расходов и расходов на вычисления. Обучение языковых моделей масштаба ChatGPT требует инвестиций более 4 миллионов долларов, однако затраты на их поддержание превышают первоначальные инвестиции.

Компания намерена сократить расходы, разработав свой собственный центр обработки данных GPU, который будет более доступным и энергоэффективным. Однако, важно отметить, что компании, использующие языковые модели OpenAI, тратят значительные суммы денег на поддержание бесперебойной работы ИИ. Стоимость умозаключений ChatGPT объясняется его популярностью, поскольку модель обрабатывает миллионы точек данных каждую минуту со всего мира. Это требует огромное количество вычислительных мощностей и дорогой технологической инфраструктуры.

OpenAI заявила, что эксплуатация модели может оказаться еще дороже при выпуске более продвинутой GPT-4, поскольку оценки, приведенные выше, основаны на GPT-3. Все это указывает на то, что OpenAI должна продолжать искать новые способы оптимизации своей технологической инфраструктуры, чтобы обеспечить бесперебойную работу и удовлетворить растущий спрос на свои продукты.

Science XXI