Jim Kelleri juhitud Chip Company Tenstorrent on välja andnud oma järgmise põlvkonna ussiaukude protsessori AI töökoormuste jaoks, mida ta loodab pakkuda head jõudlust taskukohase hinnaga.Praegu pakub ettevõte kahte täiendavat PCIE-kaarti, mis mahutavad tarkvaraarendajatele ühe või kahe ussiauku töötlejat, samuti TT-Loudboxi ja TT-Quietboxi tööjaamu. Kõik tänased teadaanded on suunatud arendajatele, mitte neile, kes kasutavad ussiaukude tahvleid kommertskoormuseks.
"On alati rõõmustav saada rohkem meie tooteid arendajate kätte. Vabastage arendussüsteemid, kasutades meie Wormhole ™ -i kaarte, aidata arendajatel skaleerida ja arendada mitme Chip AI-tarkvara," ütles Tenstorrenti tegevjuht Jim Keller.Lisaks sellele turuletoomisele on meil hea meel näha edusamme, mida me oma teise põlvkonna toote Blackhole väljatöötamisel ja sisse lülitame. ”
Iga ussiaukuprotsessor sisaldab 72 tensix südamikku (millest viis toetavad RISC-V südamikke erinevates andmevormingus) ja 108 MB SRAM-i, edastades 262 FP8 TFLOP-i 1 GHz juures termilise kujundusvõimsusega 160 W. Ühekiibi ussiauku N150 kaart on varustatud 12 GB GDDR6 videomäluga ja selle ribalaius on 288 GB/s.
Ussiaukude protsessorid pakuvad paindlikku mastaapsust, et rahuldada töökoormuse mitmekesiseid vajadusi. Nelja ussiaukuga N300 -kaardiga standardses tööjaama seadistuses saab protsessorid ühendada üheks seadmeks, mis kuvatakse tarkvaras ühtse laia Tensixi tuumivõrguna. See konfiguratsioon võimaldab gaasipedaalil käsitseda sama töökoormust, jagada nelja arendaja vahel või käivitada kuni kaheksa erinevat AI -mudelit üheaegselt. Selle mastaapsuse põhifunktsioon on see, et see saab lokaalselt töötada ilma virtualiseerimise vajaduseta. Andmekeskuse keskkonnas kasutavad ussiaukude protsessorid masinas laiendamiseks PCIE -d või välise laienemiseks Etherneti.
Toodete osas on Tenstorrenti ühekiibiga ussiauku N150 kaart (72 tensix südamikku, 1 GHz sagedus, 108 MB SRAM, 12 GB GDDR6, 288 GB/S ribalaius) saavutas 262 FP8 TFLOP-i, samas kui 160 W-ga, samas kui dualis-chil-uss-ussitahvel (128 tensix (128), 198 TENSIX-i, 198 TENSIX-i, 198 Tensixi, 198 TRANSIX, 198 TENSIX, 198 TRANSIX-i, 198 TENSIX-i, 198 TRANSIX, 198 TENSIX-i, 198 TRANSIX-i, 198 TRANSIX-i, 198 TRANSIX-i, 198 TRANSIX-i. GB GDDR6, 576 GB/S ribalaius) tarnib kuni 466 FP8 TFLOPS temperatuuril 300W.
Et panna 300W 466 FP8 TFLOPS -i konteksti, võrreldame seda sellega, mida AI turuliider Nvidia sellel termilisel kujundusvõimsusel pakub. NVIDIA A100 ei toeta FP8, kuid see toetab INT8, tipp jõudlus on 624 topsi (1248 tippu, kui hõre). Võrdluseks - Nvidia H100 toetab FP8 ja saavutab 1670 TFLOP -i tipptulemusi 300W (3341 TFLOPS -i Sparse'is), mis erineb oluliselt Tenstorrenti ussiauku N300 -st.
Siiski on üks suur probleem. Tenstorrenti ussiauku N150 jaemüük on 999 dollarit, samas kui N300 müüb 1 399 dollarit. Võrdluseks - sõltuvalt kogusest on üks NVIDIA H100 graafikakaart 30 000 dollarit. Muidugi, me ei tea, kas neli või kaheksa ussiauku töötlejat suudavad tegelikult ühe H300 jõudluse pakkuda, kuid nende TDP -d on vastavalt 600W ja 1200W.
Lisaks kaartidele pakub Tenstorrent arendajatele eelnevalt sisseehitatud tööjaamu, sealhulgas 4 N300 kaarti soodsamas XEON-põhises TT-Loudboxis koos aktiivse jahutamisega ja täiustatud TT-QuietBox koos EPYC-põhise Xiaolong) vedela jahutusfunktsiooniga).
Postiaeg: 29. juuli 20124