Elon Musk lanserade Colossus, världens mest kraftfulla AI-träningssystem. Vad är känt om henne?

Elon Musks startup för artificiell intelligens xAI, som ligger i Tennessee (USA), är ett enormt datacenter. Den nya AI:n från grundaren av SpaceX heter Colossus, vilket syftar på en av de första elektroniska datorenheterna som användes för att dechiffrera data under andra världskriget. Colossus, noterar Nvidia, körs på mer än 100 000 chips, mer än något annat AI-system på planeten. Som miljardären nyligen meddelade har Colossus äntligen tagits i drift. Världens mest kraftfulla AI-träningssystem tog bara 122 dagar att bygga – ett rekord hittills. Vi berättar detaljerna!

Elon Musk lanserade Colossus, världens mest kraftfulla AI-träningssystem. Vad är känt om det? Elon Musk arbetar på att skapa en ny AI som heter Colossus. Bild: googleusercontent.com. Foto.

Elon Musk arbetar på att skapa en ny AI som heter Colossus. Bild: googleusercontent.com

Nvidia Graphics Processing Units (GPU) är speciella chips som påskyndar AI, vilket gör att den tränas mer effektivt.

Innehåll

  • 1 Elon Musk och artificiell intelligens
  • 2 Colossus – vad du behöver veta?
  • 3 Slaget om tronen
  • 4 kvantdatorer

Elon Musk och artificiell intelligens

Elon Musk är känd för hans innovativa tillvägagångssätt i företag som Tesla och SpaceX och är aktivt intresserad av utvecklingen av artificiell intelligens. Hans syn på AI kan kallas för försiktighet, medan entreprenören själv är med och skapar teknologier som kan integrera detta senaste verktyg i vardagen.

Ett av nyckelögonblicken i Musks AI-karriär var grundandet av OpenAI 2015, vars mål var att främja och utveckla säker AI som kan gynna mänskligheten. Men 2018 lämnade miljardären OpenAI:s styrelse för att undvika en intressekonflikt mellan hans arbete på Tesla, där AI används för att utveckla självkörande bilar.

Elon Musk kritiserar ofta OpenAI-hantering. Bild: wired.com

Under efterföljande år har Musk upprepade gånger talat ut om de potentiella farorna med AI, och betonat behovet av statlig reglering. Entreprenören undertecknade också ett öppningsbrev som kräver att utvecklingen av AI-system som är kraftfullare än GPT-4 avbryts.

Mer om ämnet: Super-AI kommer att dyka upp 2027. Sant eller inte?

År 2023 tillkännagav miljardären skapandet av ett nytt företag som heter xAI, vars huvudmål är att utveckla nästa generations AI. Musk sa att den nya plattformen kommer att hjälpa till att optimera arbetet med andra projekt han leder, inklusive SpaceX och Boring Company.

Colossus – vad behöver du veta?

Musks AI-företag samarbetar med X Corp (som inkluderar det sociala nätverket X (tidigare Twitter)) och Nvidia, tack vare vars chips OpenAI-revolutionen inom artificiell intelligens ägde rum 2023. Nu arbetar xAI-anställda på sitt huvudprojekt – det neurala nätverket Grok (1, 1,5, 2, mini), samt en IDE – en integrerad utvecklingsmiljö för snabb design- och tolkningsforskning. Information om detta finns på företagets officiella hemsida.

Den 2 september 2024 tillkännagav Musk lanseringen av ett kluster för träning av AI-system kallat “Colossus”, som i huvudsak är ett enormt databehandlingscenter. Den använder mer än 100 000 Nvidia H100 GPU:er, som miljardären meddelade på sitt X-konto.

I helgen lanserade xAI-teamet Colossus träningskluster online-läge. Arbetet slutfördes på 122 dagar. Colossus är för närvarande det mest kraftfulla AI-träningssystemet i världen. Om några månader kommer antalet Nvidia-chips att öka till 200 000, skrev Musk.

Musks nya företag slår alla tänkbara och ofattbara rekord. Bild: trendspider.com

För närvarande överträffar entreprenörens projekt alla befintliga kluster. Således använder Google endast 90 tusen Nvidia GPU:er, och OpenAI använder 80. Låt oss komma ihåg att företagets chips är de mest efterfrågade i branschen och används för att träna och köra artificiell intelligenssystem, såsom chatbots och bildgeneratorer.

< p>Läs ännu fler intressanta artiklar om artificiell intelligens och kvantdatorer på vår kanal i Yandex.Zen – artiklar som inte finns på webbplatsen publiceras regelbundet där!

Det faktum att under de kommande månaderna Colossus « i storlekar på upp till 200 000 chips, inklusive 50 000 H200 GPU:er, betyder att denna AI kommer att ha nästan dubbelt så mycket minneskapacitet som sin nuvarande och kommer att ha 40 % mer bandbredd.

Det visar sig att Musks företag lyckades matcha den tekniska förmågan hos sådana fältledare som OpenAI och Microsoft, som hade en långsiktig fördel, är åtminstone imponerande. Naturligtvis förutsatt att miljardären inte överdriver.

Koloss – vad behöver du veta? Grok är ett av xAIs huvudprojekt. Bild: digital-report.ru. Foto.

Grok är ett av de viktigaste xAI-projekten. Bild: digital-report.ru

Som Fortune noterar, räknar Nvidia Musk som en av sina bästa kunder, eftersom han redan hade köpt tiotusentals grafikprocessorer för Tesla, värda mellan 3 och 4 miljarder dollar, innan han samarbetade med xAI.

Gör det inte. miss: Hur kommer artificiell intelligens att förändras 2024?

Dessutom kommer några av de förvärvade markerna, som ursprungligen var avsedda att träna Teslas helt autonoma system, användas för att träna en tidig version av Grok.

< h2> Slaget om tronen < /h2>

Trots de imponerande prestationerna föregicks lanseringen av Colossus, som i allmänhet kan kallas en superdator, av kontroverser. Sålunda, i slutet av augusti, klagade Memphis-invånare vars hem ligger nära ett datacenter i Tennessee över den “olidliga nivån av smog” som skapats av Musks företag, vilket kan leda till ytterligare konflikter i framtiden.

Dessa problem kommer sannolikt att vara det minsta av xAI:s problem, eftersom dess titel som det mest kraftfulla AI-träningssystemet utan tvekan kommer att vara i fara. Det är osannolikt att OpenAI, Microsoft, Google och Meta kommer att vila på sina lagrar i väntan på att en konkurrent ska triumfera. Dessutom har några av de ledande inom området redan hundratusentals egna GPU:er.

Elon Musk har spenderat miljarder dollar på sitt nya projekt. Bild: laecuaciondigital.com

Till exempel planerar Microsoft att samla ihop 1,8 miljoner artificiell intelligens-chips i slutet av året (visserligen låter siffran för optimistisk), och i januari sa Mark Zuckerberg att Meta har för avsikt att köpa ytterligare 350 000 Nvidia H100 till samma datum.

< p>För närvarande är dock Colossus den enda leverantören av datorkraft i sitt slag. Journalister noterar att klustret kommer att användas för att träna Grok-3, som Musk har för avsikt att släppa i december.

Du kanske är intresserad av: Neurala nätverk har lärt sig att ljuga och gör det med flit

Kvantdatorer

Kvantdatorer, som Colossus, använder qubits (kvantbitar) istället för traditionella bitar . Qubits kan vara i två tillstånd samtidigt, det vill säga de kan vara i en kvantöverlagring. Denna funktion gör det möjligt för kvantdatorer att bearbeta enorma mängder data på några sekunder. Dessutom kan qubits trasslas in i varandra, oavsett avståndet mellan dem.

Det behöver inte sägas att speciella algoritmer krävs för att fungera med kvantdatorer. Av denna anledning har Google utvecklat en unik uppsättning verktyg och programvara som gör det möjligt för forskare och ingenjörer att skapa och testa kvantalgoritmer.

Kvantdatorer, liksom artificiell intelligens, förändrar världen. Bild: wired.com

Ett av de största problemen med kvantdatorer, inklusive Musk's Colossus, är kvantdekoherens – förlusten av kvanttillståndet för qubits på grund av interaktion med miljön, vilket kräver användning av komplexa kyl- och isoleringssystem för att minimera eventuella yttre påverkan.

Läs också: Superdator vänder på den kosmiska klockan

Dessutom är det fortfarande en teknisk utmaning att öka antalet qubits för att skala kvantdatorer. Men trots de nuvarande svårigheterna är utsikterna för uppkomsten av sådana datorer ganska uppmuntrande. Med deras hjälp kommer revolutionerande förändringar att ske inom många vetenskapsområden, inklusive läkemedel och AI.

Således fortsätter forskare runt om i världen att söka efter nya sätt att optimera och skala kvantteknologier, vilket kan leda till att skapande av teknologier som kan lösa komplexa problem. Med ett ord, vi önskar dem och Elon Musk lycka till och ser fram emot nyheterna!


Date:

by