Hardware-ul specializat Microsoft pentru calcularea AI se numește Brainwave și este creat astfel încât să ruleze o rețea neuronală cât mai rapid cu latență minimă.

Compania a anunțat că, de la utilizarea Brainwave, a reușit să obțină performanțe de zece ori mai rapide din AI-ul lui Bing. Modelul de învățare automată alimentează practic funcționalitatea motorului de căutare.

Obiectivul Microsoft care ar trebui atins prin Brainwave este de a oferi predicții AI în timp real pentru aplicații precum cele mai recente funcții Bing.

Bing primește noi funcții

Microsoft oferă, de asemenea, Bing câteva funcții noi, iar cele mai semnificative, demne de menționat, sunt oferirea de mai multe răspunsuri la întrebări despre modalități și suport pentru definirea cuvintelor care nu sunt utilizate atât de frecvent atunci când utilizatorii dau cursorul peste ele. Aceste caracteristici sunt alimentate de Brainwave.

Microsoft utilizează FPGA de la Intel pentru a alimenta calculul AI

FPGA-urile sunt un fel de pânze goale pe care dezvoltatorii trebuie să le utilizeze atunci când doresc să implementeze diverse circuite prin trimiterea de software nou. Aceasta implică un amestec puternic de performanță și programabilitate.

Acum, Microsoft poate face mai mult decât să creeze modele mai rapide cu hardware-ul; compania poate construi, de asemenea, sisteme AI mai sofisticate. De exemplu, Prototipul Turing 1 al lui Bing este acum de zece ori mai complex și mai rapid datorită capacității de calcul adăugate prin Brainwave.

FGA-urile implementate de Microsoft vin cu procesoare dedicate de semnal digital la bord îmbunătățite pentru matematica complexă AI.

Principalul beneficiu al FPGA

Cel mai important avantaj al FPGA-urilor față de GPU-uri (care a devenit alegerea preferată pentru calculul AI) este că acestea nu necesită utilizarea extinsă a calculelor de lot.

O inovație-cheie care permite Microsoft să obțină astfel de rezultate de succes prin FPGA este utilizarea tipurilor de date cu virgule flotante pe 8 și 9 biți care cresc radical performanța.

Chipurile FPGA de la Intel îi permit lui Bing să citească și să analizeze rapid miliarde de documente pe întregul web și să ofere cel mai bun răspuns la întrebarea dvs. în mai puțin de o fracțiune de secundă.

De fapt, FPGA-urile Intel ne-au permis să scădem latența modelelor noastre cu mai mult de 10x, crescând totodată dimensiunea modelului nostru cu 10x.

Utilizarea FPGA pentru accelerarea calculului AI datează din 2012

Microsoft a început să folosească FPGA pentru a spori viteza de calcul AI, în urmă cu mai bine de șase ani, când echipa Bing a început să folosească cipurile. Toate acestea sunt vești grozave și pentru Intel. Compania a achiziționat Altera, un producător FPGA în 2015, iar acordul de 16, 7 miliarde de dolari a furnizat Intel puterea necesară pentru a alimenta nevoile Microsoft până astăzi.

Așteptăm cu nerăbdare să vedem Brainwave disponibil prin Microsoft Azure pentru a oferi clienților șansa de a-și implementa modelele.