Amazon Web Services (AWS) недавно объявила о доступности экземпляров P4d облака Amazon Elastic Compute Cloud (Amazon EC2) на базе графического процессора Nvidia. Instance — это экземпляр виртуальной машины, работающей в облаке и предоставляющей сервис Infrastructure as a Service (IaaS), реализующий сервисную модель в облачных вычислениях, где пользователю предоставляется определенный типичный ресурс со специфическими возможностями. Согласно AWS, экземпляры P4d обеспечивают до 3-х раз большую производительность и до 2,5-х раз большую память GPU для машинного обучения и нагрузок суперкомпьютеров по сравнению с предыдущим поколением экземпляров P3. И все это по более низкой цене (до 60% экономии в зависимости от конфигурации и тарифного плана).
экземпляр P4d обеспечивает доступ к восьми центральным процессорам Nvidia A100 Tensor Core и пропускную способность сети 400 Гбит/с (в 16 раз больше, чем у экземпляра P3). Используя AWS Elastic Fabric (EFA) и Nvidia GPUDirect RDMA (удаленный прямой доступ к памяти), клиенты могут объединить экземпляры P4d в EC2 UltraClusters. Это позволяет получить доступ к производительности суперкомпьютерного класса, масштабируя экземпляры P4d до более чем 4000 GPU A100 (в два раза больше, чем у любого другого провайдера облачных услуг), используя неблокирующую сетевую инфраструктуру петабильного масштаба, разработанную AWS и интегрированную с Amazon FSx для высокопроизводительного хранения данных Lustre.
Повышенная производительность
P4d ускоряет изучение моделей машинного обучения, а дополнительная память в GPU помогает пользователям изучать более крупные и сложные модели. Клиенты могут запускать контейнерные приложения на экземплярах P4d, используя AWS Deep Learning Containers с библиотеками для Amazon Elastic Kubernetes Service (Amazon EKS) или Amazon Elastic Container Service (Amazon ECS). Для более полного управления заказчики могут использовать экземпляры P4d через Amazon SageMaker, предоставляя разработчикам и процессорам обработки данных возможность быстро создавать, обучать и внедрять модели машинного обучения. P4d поддерживает все основные инфраструктуры машинного обучения, включая TensorFlow, PyTorch и Apache MXNet, предоставляя заказчикам гибкость в выборе среды, наиболее подходящей для их приложений.
