Ett neuralt nätverk är en kraftfull sak, men mycket glupsk. Ingenjörer från Massachusetts Institute of technology (MIT) har lyckats utveckla ett nytt chip som minskar strömförbrukningen av det neurala nätverket genom att 95%, något som i teorin möjligt för dem att arbeta även på mobila enheter med batterier. Smartphones idag blir smartare och smartare, erbjuda fler tjänster, mer energi artificiell intelligens, som virtuella assistenter och överföringar i realtid. Men oftast neurala nätverk bearbetar data för dessa tjänster i molnet, och smartphones bara skicka data fram och tillbaka.
Det är inte idealisk, eftersom det kräver en tjock kanal för kommunikation, och förutsätter att känslig data skickas och förvaras utom räckhåll för användaren. Men enorma mängder energi krävs för att driva de neurala nätverk som körs på Gpu, inte kan uppnås i en enhet som körs på ett litet batteri.
Ingenjörer vid MIT har utvecklat ett chip som gör att energiförbrukningen minskar med 95%. Chip dramatiskt minskar behovet av att överföra data fram och tillbaka mellan minne och processorer.
Neurala nätverk består av tusentals sammankopplade artificiella neuroner, arrangerade i lager. Varje nervcell tar emot input från flera neuroner i det underliggande lagret, och om den kombinerade ingång passerar en viss gräns, det överför resultatet av flera neuroner ovan. Styrkan av förbindelser mellan nervceller som bestäms av vikten, som ligger i den lärande processen.
Detta innebär att för varje neuron chip har att härleda indata för specifika sammanhang och vikten av anslutningen från minnet, föröka dem, lagra resultatet och sedan upprepa processen för varje ingång. En hel del data som rör sig fram och tillbaka, tillbringade en hel del energi.
Nya MIT-chip fixar detta, räkna alla poster i en parallell i minnet med hjälp av analoga kretsar. Detta minskar avsevärt mängden data som du vill köra, vilket leder till betydande energibesparingar.
Denna strategi kräver att vikten av de föreningar som var binära, inte en rad värde, men tidigare teoretiska arbete har visat att detta inte är någon större inverkan på noggrannhet och forskare fann att resultaten av chip avviker med 2-3% från den vanliga fall av ett neuralt nätverk som körs på en vanlig dator.
Det är inte första gången forskare skapar marker att hantera processer i minnet, vilket minskar strömförbrukningen av det neurala nätverket, men det är första gången som detta tillvägagångssätt har använts för att göra kraftfulla neurala nätverk, känd för sin behandling av bilderna.
“Resultaten visar imponerande specifikationer energi effektivt genomförande av faltning verksamhet inom ett minne array”, säger Dario Gil, Vice Vd för artificiell intelligens på IBM.
“Det definitivt öppnar för möjligheten att använda mer komplexa convolutional neurala nätverk för att klassificera bilder och videor på Internet av saker i framtiden.”
Och det är intressant inte bara för att de grupper som R&D. Lust att göra en AI på enheter som smartphones, hushållsapparater och alla typer av sakernas internet enheter driver många av Silicon valley i sidan på marker med låg strömförbrukning.
Apple har redan integrerat sin Neurala Motor i iPhone-X, för att driva, till exempel tekniken för ansiktsigenkänning, och Amazon-ryktas att utveckla sina egna marker AI för nästa generation av digitala assistenter Echo.
Stora företag, tillverkare av chip också i allt högre grad förlita sig på maskininlärning, och tvingar dem att göra sina produkter ännu mer effektiv. I början av detta år, ARM har infört två nya chip: Arm-processor Machine Learning arbetar med målen för den gemensamma AI, från översättning till ansiktsigenkänning, och Object Detection Arm-processor som avgör, till exempel ansikten i bilder.
Den senaste mobila chipet Qualcomm Snapdragon 845, har en grafisk processor och en stor del fokuserat på AI. Bolaget har även infört Snapdragon-820E, som ska arbeta i robotar, robotar och industriella enheter.
Ser framåt, IBM och Intel utvecklar neuromorphic chips, arkitektur som är inspirerad av den mänskliga hjärnan och otrolig energi effektivitet. Detta skulle teoretiskt sett kunna ge Norr (IBM) och Loihi (Intel) för att genomföra en kraftfull lärande maskin, med endast en liten andel av den energi som konventionella marker, men dessa projekt är fortfarande en rent experimentell.
För att göra chips som ger liv till neurala nät för att spara energi i batteriet kommer att bli mycket svårt. Men på den nuvarande graden av innovation är “mycket svårt” ser ganska genomförbart.
Chip MIT minskad energiförbrukning av neurala nätverk vid 95%
Ilya Hel