Jim Kelleri juhitud kiibifirma Tenstorrent on välja andnud oma järgmise põlvkonna ussiaugu protsessori tehisintellekti töökoormuste jaoks, millelt oodatakse head jõudlust taskukohase hinnaga.Ettevõte pakub praegu kahte täiendavat PCIe-kaarti, mis mahutavad ühe või kaks Wormhole-protsessorit, samuti tarkvaraarendajatele mõeldud TT-LoudBoxi ja TT-QuietBoxi tööjaamu. Kõik tänased teadaanded on suunatud arendajatele, mitte neile, kes kasutavad Wormhole-plaate äriliseks töökoormuseks.
„On alati meeldiv saada rohkem meie tooteid arendajate kätte. Meie Wormhole™ kaarte kasutavad arendussüsteemid aitavad arendajatel mitmekiibilist tehisintellekti tarkvara skaleerida ja arendada,“ ütles Tenstorrenti tegevjuht Jim Keller.Lisaks sellele turuletoomisele on meil hea meel näha edusamme, mida teeme oma teise põlvkonna toote Blackhole lindistamise ja käivitamisega.
Iga Wormhole protsessor sisaldab 72 Tensix südamikku (millest viis toetavad RISC-V südamikke erinevates andmevormingutes) ja 108 MB SRAM-i, pakkudes 262 FP8 TFLOPS-i sagedusel 1 GHz ja 160 W soojusvõimsust. Ühekiibiline Wormhole n150 kaart on varustatud 12 GB GDDR6 videomäluga ja selle ribalaius on 288 GB/s.
Wormhole protsessorid pakuvad paindlikku skaleeritavust, et rahuldada töökoormuste mitmekesiseid vajadusi. Standardse tööjaama seadistuses, kus on neli Wormhole n300 kaarti, saab protsessorid ühendada üheks seadmeks, mis kuvatakse tarkvaras ühtse ja laia Tensix põhivõrguna. See konfiguratsioon võimaldab kiirendil hakkama saada sama töökoormusega, jagada see nelja arendaja vahel või käitada samaaegselt kuni kaheksat erinevat tehisintellekti mudelit. Selle skaleeritavuse põhijooneks on see, et see saab töötada lokaalselt ilma virtualiseerimise vajaduseta. Andmekeskuse keskkonnas kasutavad Wormhole protsessorid masina sees laiendamiseks PCIe-d või väliseks laiendamiseks Etherneti.
Jõudluse osas saavutas Tenstorrenti ühekiibiline Wormhole n150 kaart (72 Tensix südamikku, 1 GHz sagedus, 108 MB SRAM, 12 GB GDDR6, 288 GB/s ribalaius) 160W juures 262 FP8 TFLOPSi, samas kui kahekiibiline Wormhole n300 plaat (128 Tensix südamikku, 1 GHz sagedus, 192 MB SRAM, koondatud 24 GB GDDR6, 576 GB/s ribalaius) pakub kuni 466 FP8 TFLOPSi 300W juures.
300W ja 466 FP8 TFLOPS-i konteksti asetamiseks võrdleme seda tehisintellekti turuliidri Nvidia pakutavaga sama jahutusvõimsuse juures. Nvidia A100 ei toeta FP8-t, kuid toetab INT8-t, mille tippjõudlus on 624 TOPS-i (hõredas režiimis 1248 TOPS-i). Võrdluseks, Nvidia H100 toetab FP8-t ja saavutab tippjõudluse 1670 TFLOPS-i 300W juures (hõredas režiimis 3341 TFLOPS-i), mis erineb oluliselt Tenstorrenti Wormhole n300-st.
Siiski on üks suur probleem. Tenstorrenti Wormhole n150 jaemüügihind on 999 dollarit, samas kui n300 maksab 1399 dollarit. Võrdluseks, ühe Nvidia H100 graafikakaardi jaemüügihind on 30 000 dollarit, olenevalt kogusest. Muidugi me ei tea, kas neli või kaheksa Wormhole protsessorit suudavad tegelikult pakkuda ühe H300 jõudlust, kuid nende TDP-d on vastavalt 600W ja 1200W.
Lisaks kaartidele pakub Tenstorrent arendajatele eelmonteeritud tööjaamu, sealhulgas 4 n300 kaarti soodsamas Xeonil põhinevas aktiivjahutusega TT-LoudBoxis ja täiustatud TT-QuietBoxis EPYC-põhise Xiaolongi vedelikjahutusfunktsiooniga.
Postituse aeg: 29. juuli 2024