I følge Google overgår deres superdatamaskin TPU (Tensor Processing Unit) med kunstig intelligens NVIDIAs A100-brikke både når det gjelder hastighet og miljøvennlighet.
Google har nylig delt detaljer om AI deres. modelltrening av superdatamaskiner, og hevder at systemene deres er raskere og mer energieffektive enn sammenlignbare som tilbys av NVIDIA. For mer enn 90 % av sine AI-treningsoperasjoner har Google laget en spesialisert brikke kalt Tensor Processing Unit (TPU). Prosessen med AI-trening innebærer å legge inn data gjennom modeller for å forbedre ytelsen deres i oppgaver som å generere bilder eller svare på forespørsler med naturlig språk.
Google har nylig publisert en forskningsartikkel som beskriver fjerde generasjon av Tensor Processing. Enhetsbrikke (TPU). Google har også beskrevet hvordan det koblet mer enn fire tusen interne brikker sammen til en superdatamaskin ved å bruke de interne optiske bryterne for å opprette koblinger mellom ulike enheter.
Konkurransen om å forbedre forbindelsene mellom maskiner har blitt kritisk for selskaper som produserer AI-superdatamaskiner. Dette er fordi store språkmodeller, ryggraden i teknologier som Googles Bard eller OpenAIs ChatGPT, har vokst betydelig, noe som gjør dem for store til å passe på en enkelt brikke.
Ifølge Google er superdatamaskinene designet for å tillate enkel rekonfigurering av forbindelser mellom brikker i sanntid. Denne funksjonen hjelper til med å unngå potensielle problemer og gjør det mulig å gjøre ytelsesforbedringer raskt og effektivt.
Se selv hvordan Googles nye TPU v4-brikker står mot NVIDIAs A100-brikker
I bildet: MLPerf Training v1.0-referanseresultatene viser at Googles TPU v4 overgår alle ikke-Google-innsendinger angående hastighet, inkludert de fra NVIDIA, uavhengig av systemstørrelse. Sammenligningen er normalisert basert på samlet treningstid, og resultatene indikerer at høyere søyler representerer bedre ytelse.
“Til tross for at Google nylig har gitt ut informasjon om sin superdatamaskin, har Google hatt systemet oppe og kjøre innen organisasjonen siden 2020. Sammenligningen ovenfor er et bevis på dette fordi denne sammenligningen ble gjort i juli 21.»
Les også: Google Quantum Supremacy: Explained
What Sier Google
Google har rapportert at for systemer av sammenlignbar størrelse er superdatamaskinen ute utfører et system basert på NVIDIAs A100-brikke tilgjengelig i samme periode som fjerde generasjons TPU. I følge Google er superdatamaskinen 1,9 ganger mer energieffektiv og opptil 1,7 ganger raskere enn NVIDIA-systemet bygget med NVIDIAs A100-brikker.
Selskapet sa også at det ikke direkte sammenlignet sin 4. Tensor Processing Unit (TPU) med NVIDIAs nyeste flaggskip H100-brikke. Dette er på grunn av H100s bruk av oppdatert teknologi og introduksjonen etter Googles TPU.
For mer av slike siste teknologinyheter, lister, feilsøkingsguider og tips og triks relatert til Windows, Android, iOS og macOS, følg oss på , og Pinterest.
Les: 2
