Amazon annoncerede Trainium 2 og Graviton 4 chips til træning og kørsel af AI-modeller

AWS, Amazons cloud computing-division, har afsløret opdaterede versioner af sine AI-chips, der er designet til at træne maskinlæringsalgoritmer og derefter implementere færdige modeller.

Her er, hvad vi ved

Trainium 2-chippen viser en firedobling af ydeevnen og en fordobling af strømeffektiviteten sammenlignet med den første version. Det vil muliggøre hurtigere og billigere træning af neurale netværk. Anthropic har allerede annonceret brugen af Trainium 2.

Graviton 4-processoren er fokuseret på at køre AI-modeller fra hylden. Den lover et 30% performance-boost i forhold til sine konkurrenter med et lavere strømforbrug. Dette skulle reducere cloud computing-omkostningerne for AWS-kunder, når de kører AI.

De nye chips vil blive tilgængelige i AWS-skyen i de kommende måneder. Sideløbende vil Amazon fortsætte sit samarbejde med NVIDIA.

Kilde: Amazon