Вычислительная мощность услуг: новая коммерческая модель на фоне бума больших моделей
Спрос на высокопроизводительные графические процессоры (GPU) для обучения больших моделей резко возрос, что привело к нехватке вычислительной мощности в отрасли. Цена на одну видеокарту NVIDIA A100 взлетела до двух-трех сотен тысяч юаней, а месячная аренда одного сервера A100 достигает 50-70 тысяч юаней. Тем не менее, даже при этом многим компаниям по-прежнему трудно получить необходимые ресурсы вычислительной мощности.
Столкнувшись с этой проблемой, компании начали принимать меры. Некоторые из них повышают эффективность обучения, используя качественные данные, или оптимизируют инфраструктуру для более стабильной работы крупных кластеров GPU. Другие компании переходят на архитектуру суперкомпьютеров или отечественные платформы GPU, чтобы снизить затраты. Для большинства компаний выбор профессиональных поставщиков вычислительной мощности является более целесообразным решением.
На самом деле, вычислительная мощность стала новой моделью услуг. Сервис вычислительной мощности интегрирует ресурсы вычислений, хранения, сети и предоставляет услуги через API и другие способы. В верхней части производственной цепочки предоставляется базовое оборудование, в среднем звене осуществляется производство и распределение вычислительной мощности, а в нижнем звене находятся пользователи из различных отраслей. Эта модель обладает большими преимуществами по стоимости и технологиям по сравнению с созданием собственной вычислительной среды.
В настоящее время услуги вычислительной мощности в основном предоставляются на основе платной модели по количеству или по подписке на год/месяц. Пользователи могут выбрать конкретные экземпляры GPU или использовать платформу MaaS для отраслевой настройки. В будущем также будет продвигаться "интеграция вычислительной сети". Облачные провайдеры активно занимаются развитием рынка услуг вычислительной мощности.
Хотя в настоящее время наблюдается нехватка высококлассных GPU, это всего лишь временное явление. В долгосрочной перспективе сервисы вычислительной мощности являются определенной тенденцией. Провайдеры вычислительной мощности должны заранее подготовиться к восстановлению рынка после его рационализации.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
23 Лайков
Награда
23
9
Репост
Поделиться
комментарий
0/400
consensus_whisperer
· 07-28 07:15
gpu卡 я не могу себе позволить, когда будет падение
Посмотреть ОригиналОтветить0
NFTBlackHole
· 07-28 01:20
Еще одна волна неудачников разыгрывайте людей как лохов
Посмотреть ОригиналОтветить0
UnluckyValidator
· 07-25 09:00
Бедный, сначала нужно продать карту, чтобы погасить долг...
Посмотреть ОригиналОтветить0
BlockchainRetirementHome
· 07-25 08:59
Графический брат действительно зарабатывает, лёжа, yyds
Посмотреть ОригиналОтветить0
TokenCreatorOP
· 07-25 08:57
Кошелек已就位 什么时候有钱
Посмотреть ОригиналОтветить0
LiquidityWhisperer
· 07-25 08:54
Накопил карточек до усталости, давай копать!
Посмотреть ОригиналОтветить0
RektRecorder
· 07-25 08:53
Не смогли достать риг для майнинга, сразу идем за картой A.
Посмотреть ОригиналОтветить0
GateUser-a180694b
· 07-25 08:46
Похоже, что все компании гонятся за GPU.
Посмотреть ОригиналОтветить0
BanklessAtHeart
· 07-25 08:32
Вычислительная мощность дорогущая, действительно голова болит.
Эра больших моделей: возникновение вычислительных мощностей как новой бизнес-модели
Вычислительная мощность услуг: новая коммерческая модель на фоне бума больших моделей
Спрос на высокопроизводительные графические процессоры (GPU) для обучения больших моделей резко возрос, что привело к нехватке вычислительной мощности в отрасли. Цена на одну видеокарту NVIDIA A100 взлетела до двух-трех сотен тысяч юаней, а месячная аренда одного сервера A100 достигает 50-70 тысяч юаней. Тем не менее, даже при этом многим компаниям по-прежнему трудно получить необходимые ресурсы вычислительной мощности.
Столкнувшись с этой проблемой, компании начали принимать меры. Некоторые из них повышают эффективность обучения, используя качественные данные, или оптимизируют инфраструктуру для более стабильной работы крупных кластеров GPU. Другие компании переходят на архитектуру суперкомпьютеров или отечественные платформы GPU, чтобы снизить затраты. Для большинства компаний выбор профессиональных поставщиков вычислительной мощности является более целесообразным решением.
На самом деле, вычислительная мощность стала новой моделью услуг. Сервис вычислительной мощности интегрирует ресурсы вычислений, хранения, сети и предоставляет услуги через API и другие способы. В верхней части производственной цепочки предоставляется базовое оборудование, в среднем звене осуществляется производство и распределение вычислительной мощности, а в нижнем звене находятся пользователи из различных отраслей. Эта модель обладает большими преимуществами по стоимости и технологиям по сравнению с созданием собственной вычислительной среды.
В настоящее время услуги вычислительной мощности в основном предоставляются на основе платной модели по количеству или по подписке на год/месяц. Пользователи могут выбрать конкретные экземпляры GPU или использовать платформу MaaS для отраслевой настройки. В будущем также будет продвигаться "интеграция вычислительной сети". Облачные провайдеры активно занимаются развитием рынка услуг вычислительной мощности.
Хотя в настоящее время наблюдается нехватка высококлассных GPU, это всего лишь временное явление. В долгосрочной перспективе сервисы вычислительной мощности являются определенной тенденцией. Провайдеры вычислительной мощности должны заранее подготовиться к восстановлению рынка после его рационализации.