Cipurile analogice pot reduce energia utilizata pentru a rula modele AI

Un cip de computer analogic poate rula un model de recunoastere a vorbirii cu inteligenta artificiala (AI) de 14 ori mai eficient decat cipurile traditionale, oferind potential o solutie pentru utilizarea vasta si in crestere a energiei din cercetarea AI si pentru lipsa la nivel mondial a cipurilor digitale utilizate de obicei.

Dispozitivul a fost dezvoltat de IBM Research, care a refuzat cererea lui New Scientist pentru un interviu si nu a oferit niciun comentariu. Dar, intr-o lucrare care prezinta lucrarile, cercetatorii sustin ca cipul analogic poate reduce blocajele in dezvoltarea AI.

Exista o goana globala pentru cipurile GPU, procesoarele grafice care au fost concepute initial pentru a rula jocuri video si au fost, de asemenea, folosite in mod traditional pentru a antrena si a rula modele AI, cererea depasind oferta. Studiile au aratat, de asemenea, ca utilizarea energiei AI creste rapid, crescand de 100 de ori intre 2012 si 2021, cea mai mare parte a acestei energii provenind din combustibili fosili. Aceste probleme au condus la sugestii ca scara in continua crestere a modelelor AI va ajunge in curand intr-un impas.

O alta problema cu hardware-ul AI actual este ca trebuie sa transfere datele inainte si inapoi din memorie la procesoare in operatiuni care provoaca blocaje semnificative. O solutie la aceasta este cipul analogic de calcul in memorie (CiM) care efectueaza calcule direct in propria memorie, lucru pe care IBM l-a demonstrat acum la scara.

Dispozitivul IBM contine 35 de milioane de asa-numite celule de memorie cu schimbare de faza – o forma de CiM – care pot fi setate la una din doua stari, cum ar fi tranzistorii din cipurile computerelor, dar si in grade diferite intre ele.

Aceasta ultima trasatura este cruciala, deoarece aceste stari variate pot fi folosite pentru a reprezenta greutatile sinaptice dintre neuronii artificiali dintr-o retea neuronala, un tip de IA care modeleaza modul in care legaturile dintre neuronii din creierul uman variaza in forta atunci cand invata noi informatii sau abilitati, ceva care este in mod traditional stocat ca valoare digitala in memoria computerului. Acest lucru permite noului cip sa stocheze si sa proceseze aceste greutati fara a face milioane de operatiuni pentru a rechema sau stoca date in cipuri de memorie indepartate.

Te-ar putea interesa si: Cum scolile pot supravietui cu AI

In testele privind sarcinile de recunoastere a vorbirii, cipul a aratat o eficienta de 12,4 trilioane de operatii pe secunda pe watt. Acesta este de pana la 14 ori mai eficient decat procesoarele conventionale.

Hechen Wang de la firma de tehnologie Intel spune ca cipul este „departe de a fi un produs matur”, dar experimentele au aratat ca poate functiona eficient pe formele de retele neuronale AI utilizate in mod obisnuit in prezent – ​​doua dintre cele mai cunoscute exemple sunt numite CNN si RNN – si are potentialul de a sustine aplicatii populare, cum ar fi ChatGPT.

„Chipurile foarte personalizate pot oferi o eficienta de neegalat. Cu toate acestea, acest lucru are drept consecinta sacrificarea fezabilitatii”, spune Wang. „Asa cum un GPU nu poate acoperi toate sarcinile pe care un CPU [un procesor standard de computer] le poate indeplini, in mod similar, un cip analogic-AI sau un cip analogic de calcul in memorie are limitarile sale. Dar daca tendinta AI poate continua si poate urma tendinta actuala, cipurile foarte personalizate pot deveni cu siguranta mai comune.”

Wang spune ca, desi cipul este specializat, ar putea avea utilizari in afara sarcinii de recunoastere a vorbirii utilizate de IBM in experimentele sale. „Atata timp cat oamenii folosesc in continuare un CNN sau RNN, nu va fi complet inutil sau deseuri electronice”, spune el. „Si, dupa cum s-a demonstrat, analogic-AI, sau analogic compute-in-memory, are o putere mai mare si o eficienta de utilizare a siliciului, ceea ce poate reduce costurile in comparatie cu procesoarele sau GPU-urile.”

---