도안구 기자가 올려준 마소의 AI칩입니다. ㅎㅎ

오늘 아침 페복을 통해 본 마소의 AI칩입니다.  

------------------------------------------------------------

[테크수다 - AI] 베일 벗은 Microsoft 의 반도체 2종, AI 칩과 ARM 칩...오픈AI와 초기 부터 협력

마이크로소프트가 드디어 독자적으로 만든 반도체 2종을 선보였습니다. 이미 2세대 AI칩과 ARM 칩 설계도 시작했다고 합니다.

엔비디아와 AMD 제품 도입도 지속적으로 가져간다고 전했습니다.

1. 마이크로소프트 애저 마이아 AI 액셀러레이터

2. Arm 기반 마이크로소프트 애저 코발트 CPU

입니다.

Microsoft 이그나이트에서 이 여정의 결과로 탄생한 두 가지 맞춤형 칩과 통합 시스템, 즉 인공 지능(AI) 작업 및 생성 AI에 최적화된 Microsoft Azure 마이아 AI 액셀러레이터와 Microsoft 클라우드에서 범용 컴퓨팅 워크로드를 실행하도록 맞춤화된 Arm 기반 프로세서인 Microsoft Azure 코발트 CPU를 공개했습니다.

이 칩은 실리콘 선택, 소프트웨어, 서버부터 랙 및 냉각 시스템에 이르기까지 모든 것을 포함하는 인프라 시스템을 제공하기 위한 마지막 퍼즐 조각으로, 내부 및 고객 워크로드를 염두에 두고 최적화할 수 있도록 처음부터 끝까지 설계되었습니다.

이 칩은 2024년 초부터 Microsoft의 데이터센터에 출시될 예정이며, 처음에는 Microsoft Copilot 또는 Azure OpenAI Service와 같은 서비스를 구동할 예정입니다. 이 칩은 효율적이고 확장 가능하며 지속 가능한 컴퓨팅 성능에 대한 폭발적인 수요와 최신 클라우드 및 AI 혁신을 활용하고자 하는 고객의 요구를 충족하기 위해 업계 파트너의 다양한 제품군에 합류할 예정입니다.

마이크로소프트는 반도체는 전문 기업과 협력하는 형태를 취해 왔는데요. 클라우드 사업과 AI 사업을 위해서는 독자적인 확보가 피할 수 없는 일이라고 본듯 합니다.

사타아 나델라(Satya Nadella) 마이크로소프트 CEO 겸 이사회 의장은 기조연설에서 “지난 한 해 동안 혁신의 속도는 놀라울 정도로 빠르게 진행됐다”라며, “우리 모두는 코파일럿의 창의성과 생산성에 미치는 영향을 깊이 이해하기 시작했고 이는 시작에 불과하다”라고 말했다. 이어 “코파일럿은 전 세계와 조직의 지식에 접근할 수 있는 새로운 AI가 될 것이며, 그 지식을 바탕으로 행동할 수 있도록 돕는 에이전트가 될 것”이라고 전했습니다.

한편, 마이크로소프트는 미드레인지 AI 트레이닝 및 제너레이티브 AI 추론을 위해 더 뛰어난 성능, 안정성 및 효율성을 제공하는 NVIDIA H100 텐서 코어 GPU용으로 제작된 새로운 NC H100 v5 가상 머신 시리즈의 프리뷰를 출시했습니다.

또한 Microsoft는 지연 시간 증가 없이 더 큰 규모의 모델 추론을 지원하기 위해 내년에 최신 NVIDIA H200 텐서 코어 GPU를 제품군에 추가할 예정입니다.

또한 Microsoft Azure 에 AMD MI300X 가속 가상 머신을 추가할 것이라고 발표했습니다. AMD MI300 가상 머신은 광범위한 AI 모델 학습 및 생성 추론을 위한 AI 워크로드 처리를 가속화하도록 설계되었으며, AMD의 최신 GPU인 AMD Instinct MI300X를 탑재할 예정입니다.

업계 파트너의 칩 및 하드웨어 에코시스템에 퍼스트 파티 실리콘을 추가함으로써 Microsoft는 고객에게 가격 및 성능 면에서 더 많은 선택권을 제공할 수 있을 것이라고 말했습니다.

2024년은 이 거인의 질주가 기대되는군요.

----------------------------------