Home Tehnologie Cipurile analogice pot reduce energia utilizata pentru a rula modele AI
Tehnologie

Cipurile analogice pot reduce energia utilizata pentru a rula modele AI

Share

Cercetarea AI foloseste cantitati mari de energie, dar noi cercetari arata ca dispozitivele analogice pot rula modele mult mai eficient datorita capacitatii lor neobisnuite de a stoca si procesa date in acelasi loc.

Un cip de computer analogic poate rula un model de recunoastere a vorbirii cu inteligenta artificiala (AI) de 14 ori mai eficient decat cipurile traditionale, oferind potential o solutie pentru utilizarea vasta si in crestere a energiei din cercetarea AI si pentru lipsa la nivel mondial a cipurilor digitale utilizate de obicei.

Dispozitivul a fost dezvoltat de IBM Research, care a refuzat cererea lui New Scientist pentru un interviu si nu a oferit niciun comentariu. Dar, intr-o lucrare care prezinta lucrarile, cercetatorii sustin ca cipul analogic poate reduce blocajele in dezvoltarea AI.

Exista o goana globala pentru cipurile GPU, procesoarele grafice care au fost concepute initial pentru a rula jocuri video si au fost, de asemenea, folosite in mod traditional pentru a antrena si a rula modele AI, cererea depasind oferta. Studiile au aratat, de asemenea, ca utilizarea energiei AI creste rapid, crescand de 100 de ori intre 2012 si 2021, cea mai mare parte a acestei energii provenind din combustibili fosili. Aceste probleme au condus la sugestii ca scara in continua crestere a modelelor AI va ajunge in curand intr-un impas.

O alta problema cu hardware-ul AI actual este ca trebuie sa transfere datele inainte si inapoi din memorie la procesoare in operatiuni care provoaca blocaje semnificative. O solutie la aceasta este cipul analogic de calcul in memorie (CiM) care efectueaza calcule direct in propria memorie, lucru pe care IBM l-a demonstrat acum la scara.

Dispozitivul IBM contine 35 de milioane de asa-numite celule de memorie cu schimbare de faza – o forma de CiM – care pot fi setate la una din doua stari, cum ar fi tranzistorii din cipurile computerelor, dar si in grade diferite intre ele.

Aceasta ultima trasatura este cruciala, deoarece aceste stari variate pot fi folosite pentru a reprezenta greutatile sinaptice dintre neuronii artificiali dintr-o retea neuronala, un tip de IA care modeleaza modul in care legaturile dintre neuronii din creierul uman variaza in forta atunci cand invata noi informatii sau abilitati, ceva care este in mod traditional stocat ca valoare digitala in memoria computerului. Acest lucru permite noului cip sa stocheze si sa proceseze aceste greutati fara a face milioane de operatiuni pentru a rechema sau stoca date in cipuri de memorie indepartate.

In testele privind sarcinile de recunoastere a vorbirii, cipul a aratat o eficienta de 12,4 trilioane de operatii pe secunda pe watt. Acesta este de pana la 14 ori mai eficient decat procesoarele conventionale.

Hechen Wang de la firma de tehnologie Intel spune ca cipul este „departe de a fi un produs matur”, dar experimentele au aratat ca poate functiona eficient pe formele de retele neuronale AI utilizate in mod obisnuit in prezent – ​​doua dintre cele mai cunoscute exemple sunt numite CNN si RNN – si are potentialul de a sustine aplicatii populare, cum ar fi ChatGPT.

„Chipurile foarte personalizate pot oferi o eficienta de neegalat. Cu toate acestea, acest lucru are drept consecinta sacrificarea fezabilitatii”, spune Wang. „Asa cum un GPU nu poate acoperi toate sarcinile pe care un CPU [un procesor standard de computer] le poate indeplini, in mod similar, un cip analogic-AI sau un cip analogic de calcul in memorie are limitarile sale. Dar daca tendinta AI poate continua si poate urma tendinta actuala, cipurile foarte personalizate pot deveni cu siguranta mai comune.”

Wang spune ca, desi cipul este specializat, ar putea avea utilizari in afara sarcinii de recunoastere a vorbirii utilizate de IBM in experimentele sale. „Atata timp cat oamenii folosesc in continuare un CNN sau RNN, nu va fi complet inutil sau deseuri electronice”, spune el. „Si, dupa cum s-a demonstrat, analogic-AI, sau analogic compute-in-memory, are o putere mai mare si o eficienta de utilizare a siliciului, ceea ce poate reduce costurile in comparatie cu procesoarele sau GPU-urile.”

Share
Related Articles
Tehnologie

Cum să navighezi în siguranță online: sfaturi simple pentru protejarea datelor personale

Cum să navighezi în siguranță online: sfaturi simple pentru protejarea datelor personale În era digitală, protecția online și confidențialitatea pe internet sunt vitale. Ele ne ajută să păstrăm datele personale în siguranță. Acest articol vizează persoanele care doreau să îmbunătățească securitatea lor cibernetică. Vom discuta despre metode și instrumente eficiente pentru protecția informațiilor sensibile. De la utilizarea parolelor puternice la activarea autentificării cu doi factori, până la VPN-uri eficiente. Vom explora toate aceste practici esențiale pentru a face internetul un loc mai sigur. Strategii esențiale pentru protecția datelor personale Protejarea datelor personale online este crucială pentru a preveni accesul neautorizat și breșe de securitate. Aici sunt câteva strategii eficiente pentru protejarea informațiilor tale. Utilizează parole puternice și unice Crearea de parole securizate, puternice și unice pentru fiecare cont online este primul pas către protecția datelor personale. Evită folosirea aceleași parole pentru mai multe conturi. Utilizează combinații de litere mari, mici, numere și caractere speciale pentru a întări parolele. Activează autentificarea cu doi factori Autentificarea în doi pași adaugă un strat suplimentar de securitate conturilor tale online. Aceasta necesită nu doar parola, ci și un alt factor de autentificare, cum ar fi un cod trimis pe telefon sau o aplicație de autentificare. Activează autentificarea cu doi factori pentru toate conturile care oferă această opțiune pentru a-ți spori protecția. Actualizează software-ul și aplicațiile Asigură-te că toate software-urile și aplicațiile pe care le utilizezi sunt la zi. Update-urile de securitate sunt critice deoarece remediază vulnerabilitățile cunoscute și îmbunătățesc protecția împotriva amenințărilor cibernetice. Activează setările automate de actualizare pentru a nu rata niciun patch important. Fii precaut cu aplicațiile și link-urile necunoscute...

Tehnologie

Tendințe tech în retail: drone, roboți și livrarea rapidă

Magazinele nu mai seamănă deloc cu cele de acum zece ani. Oamenii...

Tehnologie

CS2 cases: Ce învață retailul din drop-uri

Comerțul digital s-a maturizat dincolo de listări și coșuri de cumpărături. În...

Tehnologie

WiFi 7 este o realitate: dispozitive compatibile cu noua generatie de conexiune

WiFi 7 este acum o realitate. Si, odata cu el, incep sa...