AWS anuncia instância EC2 P4d, para expandir os limites do machine learning

O Amazon Web Services (AWS) anunciou a disponibilidade geral de instâncias P4d do Amazon Elastic Compute Cloud (Amazon EC2) com capacidade EC2 UltraClusters. A oferta é a próxima geração de instâncias com GPU para fornecer o melhor desempenho em treinamento de machine learning e computação de alto desempenho (HPC, na sigla em inglês) na nuvem, de acordo com o site ZDNet.

Os aplicativos incluem processamento de linguagem natural, detecção e classificação de objetos, análise sísmica e pesquisa genômica. Essas instâncias são alimentadas pelos mais recentes processadores Intel Cascade Lake e, segundo a publicação, apresentam oito das mais recentes GPUs Nvidia A100 Tensor Core, cada uma conectada por NVLink e com suporte para Nvidia GPUDirect.

De acordo com a AWS, eles possuem 2,5 petaflops de desempenho de precisão mista e 320 GB de memória GPU de alta largura de banda em uma instância do EC2. O desempenho aprimorado das instâncias P4d acelerará o tempo de treinamento de modelos de machine learning em cerca de 2,5x e a memória GPU adicional ajudará os clientes a treinar modelos maiores e mais complexos, diz o site.

“Usando instâncias P4d com Elastic Fabric Adapter (EFA) da AWS e Nvidia GPUDirect RDMA (acesso remoto direto à memória), os clientes podem criar instâncias P4d com capacidade EC2 UltraClusters”, disse a AWS.

“Com EC2 UltraClusters, os clientes podem escalar instâncias P4d para mais de 4.000 GPUs A100 […] fazendo uso da infraestrutura de rede em escala petabit não bloqueada projetada pela AWS integrada com Amazon FSx para armazenamento de alto desempenho Lustre, oferecendo acesso sob demanda à classe de supercomputação desempenho para acelerar o treinamento de machine learning e HPC”.

Segundo a AWS, os clientes podem executar aplicativos em contêineres em instâncias P4d com AWS Deep Learning Containers com bibliotecas para Amazon Elastic Kubernetes Service (Amazon EKS) ou Amazon Elastic Container Service (Amazon ECS).

Os clientes podem gerenciar totalmente o uso de instâncias P4d por meio do Amazon SageMaker.

As instâncias P4 estão disponíveis em um tamanho – p4d.24xlarge – e os clientes podem lançá-las em algumas regiões dos EUA desde a última terça-feira (3). São necessários drivers Nvidia A100 e o driver ENA mais recente.