Microsoft predstavuje tretiu generáciu čipu Maia AI, ktorý znižuje závislosť od GPU od Nvidie

·

Microsoft oznámil svoj interný AI čip Maia tretej generácie, navrhnutý ako hlavný AI inferenčný systém pre produkty a služby Microsoftu. Nový čip, nazvaný Maia 300, je nástupcom predchádzajúcej generácie Maia 200, ktorá bola predstavená len v januári tohto roku. Podľa Scotta Guthrieho, výkonného viceprezidenta cloudovej skupiny Microsoftu, bola Maia 300 navrhnutá s ohľadom na efektivitu.

Nový čip Maia 300 začne byť zavádzaný do produkčných AI úloh v roku 2027 a očakáva sa, že prinesie významné zlepšenia oproti svojmu predchodcovi. V plnej konfigurácii s 96 akcelerátormi poskytuje až 7-násobok rackovej priepustnosti tokenov oproti Maia 200. Guthrie tiež uviedol, že Maia 300 poskytne o 40 percent viac tokenov na megawatt v porovnaní s poprednými systémami založenými na GPU.

Očakáva sa, že zvýšenie efektivity vďaka Maia 300 umožní Microsoftu spoliehať sa hlavne na svoje vlastné AI čipy, nie na čipy od Nvidia a AMD. Táto zmena je súčasťou plánu Microsoftu rozšíriť svoju rodinu Azure Maia na viacgigawattové nasadenia od roku 2027. Guthrie zdôraznil, že to urobí Maia hlavným AI inferenčným systémom pre produkty a služby Microsoftu.

Maia 300 používa novú čipletovú architektúru, postavenú na procesnom uzle TSMC N2P, ktorá oddeľuje výpočtové, pamäťové radiče a I/O funkcie. Tento dizajn umožňuje každej funkcii využívať technológiu najvhodnejšiu pre svoju úlohu, čím sa zvyšuje priestor kremíka venovaný výpočtovému výkonu. Tím hardvéru a infraštruktúry Azure uvádza, že tento prístup umožňuje efektívnejšie spracovanie AI záťaží.

Microsoft tiež využíva Maia 300 ako kľúčovú súčasť vo vývoji vlastných AI modelov. Podľa Mustafu Suleymana, generálneho riaditeľa Microsoft AI, je spúšťanie modelov na čipe Maia kľúčové pre dosiahnutie cieľa dobehnúť lídrov v odvetví ako Google DeepMind a OpenAI. Suleyman zdôraznil, že vlastniť a spolunavrhovať platformu v takomto rozsahu si vyžaduje prácu naprieč full stackom, od kremíka až po vývoj modelov.

Diskusia

Zatiaľ žiadne správy. Napíšte ako prvý.