Amazon запускает новые серверы с ИИ, Apple становится клиентом
Опубликовано 04.12.2024 в 00:15
Amazon (NASDAQ:) Web Services (AWS) объявила о выпуске новых серверов для центров обработки данных, оснащенных собственными чипами искусственного интеллекта (ИИ), бросая вызов доминированию Nvidia (NASDAQ:) в этом секторе. Подтверждено, что Apple Inc. (NASDAQ:) стала клиентом и планирует использовать новые чипы Trainium2. Облачное подразделение AWS сообщило, что эти серверы станут частью огромного суперкомпьютера, который будет включать сотни тысяч чипов. Это объявление было сделано во вторник.
Этот суперкомпьютер, работающий на чипах Trainium2 от AWS, будет использоваться ИИ-стартапом Anthropic в качестве первой компании, применяющей эту технологию. Anthropic известна созданием надежных и интерпретируемых систем ИИ и будет использовать вычислительную мощность для улучшения возможностей своих ИИ-моделей.
Бенуа Дюпен, руководитель Apple, также подтвердил, что технологический гигант использует чипы Trainium2, что свидетельствует о значительном внедрении нового предложения AWS.
Мэтт Гарман, генеральный директор AWS, также сообщил, что компания уже работает над Trainium3, следующим поколением своего ИИ-чипа, дебют которого запланирован на следующий год.
Новые экземпляры Amazon Elastic Compute Cloud (Amazon EC2), работающие на AWS Trainium2, теперь общедоступны и представляют Trn2 UltraServers. Эти UltraServers разработаны для обеспечения исключительной производительности и экономической эффективности при обучении и развертывании современных моделей ИИ, включая большие языковые модели (LLM) и базовые модели (FM).
Экземпляры Trn2 обещают улучшение соотношения цены и производительности на 30-40% по сравнению с текущими экземплярами EC2 на базе GPU и оснащены 16 чипами Trainium2, обеспечивающими пиковую вычислительную мощность 20,8 петафлопс. Это делает их идеальными для обработки рабочих нагрузок ИИ с миллиардами параметров.
Для еще более требовательных задач ИИ Trn2 UltraServers предлагают новую службу EC2, включающую 64 взаимосвязанных чипа Trainium2 для обеспечения до 83,2 пиковых петафлопс вычислительной мощности. Эта конфигурация в четыре раза увеличивает вычислительные возможности, память и сетевые возможности одного экземпляра, позволяя обучать и развертывать крупнейшие в мире модели ИИ.
Совместный проект AWS и Anthropic, названный Project Rainier, направлен на создание EC2 UltraCluster из Trn2 UltraServers, который после завершения станет крупнейшим в мире кластером для вычислений ИИ.
AWS также анонсировала предстоящий чип Trainium3, который будет производиться с использованием 3-нанометрового технологического процесса и обещает четырехкратное увеличение производительности по сравнению с текущими Trn2 UltraServers.
Комплект разработки программного обеспечения AWS Neuron (SDK) облегчает оптимизацию моделей ИИ для работы на чипах Trainium, поддерживая популярные фреймворки, такие как JAX и PyTorch, и интегрирован с хабом моделей Hugging Face, который содержит более 100 000 моделей.
Экземпляры Trn2 в настоящее время доступны в регионе AWS US East (Ohio), с планами расширения доступности в дополнительных регионах в ближайшее время. Тем временем Trn2 UltraServers предлагаются в фазе предварительного просмотра.
Эта статья была переведена с помощью искусственного интеллекта. Для получения дополнительной информации, пожалуйста, ознакомьтесь с нашими Условиями использования.
