Jim Kelleri juhitud kiibiettevõte Tenstorrent on välja andnud oma järgmise põlvkonna Wormhole'i protsessori AI töökoormuste jaoks, mis loodab pakkuda head jõudlust taskukohase hinnaga.Ettevõte pakub hetkel kahte täiendavat PCIe kaarti, mis mahutavad ühte või kahte Wormhole'i protsessorit, samuti TT-LoudBox ja TT-QuietBox tööjaamu tarkvaraarendajatele. Kõik tänased teadaanded on suunatud arendajatele, mitte neile, kes kasutavad Wormhole'i tahvleid ärilise töökoormuse jaoks.
„Alati on rõõmustav, kui saame arendajate kätte rohkem meie tooteid. Meie Wormhole™-kaarte kasutavate arendussüsteemide väljalaskmine aitab arendajatel skaleerida ja arendada mitme kiibiga tehisintellekti tarkvara,” ütles Tenstorrenti tegevjuht Jim Keller.Lisaks sellele turule on meil hea meel näha edusamme, mida teeme meie teise põlvkonna toote Blackhole lindi väljalaskmisel ja sisselülitamisel.
Iga Wormhole'i protsessor sisaldab 72 Tensixi südamikku (millest viis toetavad RISC-V südamikku erinevates andmevormingutes) ja 108 MB SRAM-i, pakkudes 262 FP8 TFLOPS-i sagedusel 1 GHz ja termilise disaini võimsusega 160 W. Ühe kiibiga Wormhole n150 kaart on varustatud 12 GB GDDR6 videomäluga ja selle ribalaius on 288 GB/s.
Ussiaukude protsessorid pakuvad paindlikku skaleeritavust, et vastata töökoormuse erinevatele vajadustele. Nelja Wormhole n300 kaardiga standardse tööjaama seadistuses saab protsessorid ühendada üheks üksuseks, mis kuvatakse tarkvaras ühtse laia Tensixi tuumvõrguna. See konfiguratsioon võimaldab kiirendil hakkama saada sama töökoormusega, jagada nelja arendaja vahel või käitada korraga kuni kaheksat erinevat tehisintellekti mudelit. Selle skaleeritavuse põhiomadus on see, et seda saab töötada kohapeal, ilma et oleks vaja virtualiseerida. Andmekeskuse keskkonnas kasutavad Wormhole'i protsessorid masinasiseseks laiendamiseks PCIe-d või väliseks laiendamiseks Etherneti.
Toimivuse osas saavutas Tenstorrenti ühe kiibiga Wormhole n150 kaart (72 Tensixi tuuma, 1 GHz sagedus, 108 MB SRAM, 12 GB GDDR6, 288 GB/s ribalaius) 262 FP8 TFLOPSi 160 W juures, samas kui kahe plaadiga W3mholepn (128 Tensix tuuma, 1 GHz sagedus, 192 MB SRAM, 24 GB GDDR6, 576 GB/s ribalaius) pakub kuni 466 FP8 TFLOPS-i 300 W juures.
Et panna konteksti 300 W 466 FP8 TFLOPS-i, võrdleme seda tehisintellekti turuliidri Nvidia selle soojusdisaini võimsusega. Nvidia A100 ei toeta FP8, kuid see toetab INT8, mille tippjõudlus on 624 TOPS (1248 TOPS, kui vähe). Võrdluseks, Nvidia H100 toetab FP8 ja saavutab maksimaalse jõudluse 1670 TFLOPS 300 W juures (3341 TFLOPS harva), mis erineb oluliselt Tenstorrenti Wormhole n300-st.
Siiski on üks suur probleem. Tenstorrenti Wormhole n150 jaemüügihind on 999 dollarit, n300 aga 1399 dollarit. Võrdluseks, ühe Nvidia H100 graafikakaardi jaemüük on sõltuvalt kogusest 30 000 dollarit. Muidugi me ei tea, kas neli või kaheksa Wormhole'i protsessorit suudavad tegelikult pakkuda ühe H300 jõudlust, kuid nende TDP-d on vastavalt 600 W ja 1200 W.
Lisaks kaartidele pakub Tenstorrent arendajatele eelehitatud tööjaamu, sealhulgas 4 n300 kaarti soodsamas Xeonipõhises aktiivse jahutusega TT-LoudBoxis ja täiustatud TT-QuietBox EPYC-põhise Xiaolong) vedelikjahutusfunktsiooniga).
Postitusaeg: 29. juuli 2024