Tesla har betydelig fokus på datakraft både i og utenfor bilene de produserer. Bilen trenger datamaskiner som er kraftig nok til å kjøre programvaren for selvkjøring, men programvaren for selvkjøring er avhengig av selv å bli trent opp av superdatamaskiner.
Har bygget verdens femte kraftigste
Tesla har de siste årene jobbet med sitt Dojo-prosjekt, en superdatamaskin som skal være i stand til en exaFLOP, en kvintillion (1018) flytpunktsoperasjoner pr. sekund eller 1000 petaFLOPS – noe som vil plassere den som en av de kraftigste datamaskinene i verden.
Mens Tesla venter på Dojo har de bygget “foreløbige” superdatamaskiner som vil bli redusert til “småsøsken” når Dojo står ferdig. Men småsøsknene er egentlig ikke så små når det kommer til stykket. Nå er den siste av de foreløbige superdatamaskinene avduket av Teslas AI-leder Andrej Karpathy. Det skjedde under en presentasjon på Conference on Computer Vision and Pattern Recognition 2021.
mens de venter på den aller kraftigste
Tesla oppgir noen ganske vanvittige spesifikasjoner. Holder de vann er det snakk om den omtrent femte kraftigste datamaskinen i verden:
Annonse
- 720 noder à 8× A100 80GB (totalt 5760 GPUer)
- 1,8 EFLOPS (720 noder * 312 TFLOPS-FP16-A100 * 8 gpu / noder)
- 10 PB “hot tier” NVME-lagring @ 1,6 TBps
- 640 Tbps total kapasitet
Vi har et nettverk med nevral arkitektur og vi har 1,5 petabyte data som krever enorm mengde behandling. For at Autopilot skal skal bli så bra som vi ser for oss, må vi mestre dataene fra flåten, trene massive nevrale nett og eksperimentere mye. Dette er en klynge med 720 noder à 8× A100 av 80 GB-versjonen, så det kan trygt sies å være en massiv superdatamaskin. Jeg tror at i antall flops rangerer den omtrent som superdatamaskin nummer fem i verden.
Andrej Karpathy, leder av Teslas AI-divisjon
Dojo
Karpathy ønsket ikke å gå inn på detaljer om Dojo, han sa bare at den vil være enda kraftigere enn Teslas nåværende klynge og optimalisert for trening av nevrale nett.
Musk har tidligere sagt at Tesla planlegger å gjøre superdatamaskiner tilgjengelig for andre selskaper å trene nevrale nett på dem.
Karpathys presentasjon på CCVPR 2021
Autopilot er Teslas program for utvikling av selvkjørende biler.
Les ITavisen: Ny AI: Kunstig intelligens på høyde med hjernen
Annonse
