Виртуальная машина Microsoft ND H100 v5 общедоступна, служба Azure OpenAI доступна в других регионах

В марте Microsoft объявила о сотрудничестве с NVIDIA для создания серии виртуальных машин (VM) Azure ND H100 v5. Сегодня Microsoft объявила, что эти новые суперкомпьютеры теперь общедоступны, предлагая бизнес-доступ к более высокой производительности для генеративных задач ИИ.

Новые виртуальные машины используют графические процессоры NVIDIA Tensor Core H100 и сеть NVIDIA Quantum-2 InfiniBand. На данный момент они доступны для доступа как в регионах Azure Восток, так и Запад США. Вот что могут ожидать компании, когда они зарегистрируются для доступа к этим новым и быстрым виртуальным машинам на основе ИИ.

• Супервычислительные графические процессоры. Эти виртуальные машины, оснащенные восемью графическими процессорами NVIDIA Tensor Core H100, обещают значительно более высокую производительность моделей ИИ по сравнению с предыдущими поколениями, предоставляя предприятиям непревзойденную вычислительную мощность.
• Компьютерный процессор следующего поколения (ЦП): Понимая важность производительности ЦП для обучения ИИ и получения логических выводов, мы выбрали масштабируемые процессоры Intel Xeon 4-го поколения в качестве основы для этих виртуальных машин, обеспечивающих оптимальную скорость обработки.
• Сеть с малой задержкой: включение NVIDIA Quantum-2 CX7 InfiniBand с межузловой пропускной способностью 400 ГБ/с обеспечивает бесперебойную работу графических процессоров, соответствующую возможностям самых производительных суперкомпьютеров по всему миру.
• Оптимизированная производительность между хостом и графическим процессором: благодаря PCIe Gen5, обеспечивающему пропускную способность 64 ГБ/с на каждый графический процессор, Azure достигает значительных преимуществ в производительности между ЦП и ГП.
• Крупномасштабная память и пропускная способность памяти: память DDR5 лежит в основе этих виртуальных машин, обеспечивая более высокую скорость и эффективность передачи данных, что делает их идеальными для рабочих нагрузок с большими наборами данных.

Корпорация Майкрософт добавила, что работает над тем, чтобы добавить сотни тысяч этих новых графических процессоров для своих виртуальных машин в течение следующего года.

В дополнение к новым виртуальным машинам Azure с генерирующим искусственным интеллектом Microsoft также объявила о расширении своего сервиса Azure OpenAI. Теперь он доступен в регионах Восточная Канада, Восточная часть Соединенных Штатов 2, Восточная Япония и Юг Великобритании.

Сервис, как мы уже сообщали ранее, поможет компаниям создавать свои собственные приложения на базе искусственного интеллекта. С тех пор как это было впервые анонсировано в марте, Microsoft заявила, что получила отличные отклики от бизнеса:

Сейчас мы с гордостью обслуживаем более 11 000 клиентов, привлекая в среднем по 100 новых клиентов ежедневно в этом квартале. Этот значительный рост является свидетельством ценности и масштабируемости нашего сервиса для компаний, стремящихся использовать потенциал искусственного интеллекта для своих уникальных нужд.

Microsoft также добавила, что самая мощная версия платформы искусственного интеллекта ChatGPT, GPT-4, также будет доступна для новых регионов обслуживания Azure OpenAI.