जिम केलर के नेतृत्व वाली चिप कंपनी टेन्सटॉरेंट ने एआई वर्कलोड के लिए अपनी अगली पीढ़ी का वर्महोल प्रोसेसर जारी किया है, जिससे उसे उम्मीद है कि वह किफायती कीमत पर अच्छा प्रदर्शन देगा।कंपनी वर्तमान में दो अतिरिक्त PCIe कार्ड प्रदान करती है जो एक या दो वर्महोल प्रोसेसर को समायोजित कर सकते हैं, साथ ही सॉफ्टवेयर डेवलपर्स के लिए TT-LoudBox और TT-QuietBox वर्कस्टेशन भी प्रदान करती है। आज की सभी घोषणाएँ डेवलपर्स के लिए हैं, न कि उन लोगों के लिए जो वाणिज्यिक कार्यभार के लिए वर्महोल बोर्ड का उपयोग करते हैं।
टेंस्टॉरेंट के सीईओ जिम केलर ने कहा, "डेवलपर्स के हाथों में हमारे ज़्यादा से ज़्यादा उत्पाद पहुँचाना हमेशा संतोषजनक होता है। हमारे वर्महोल™ कार्ड का उपयोग करके रिलीज़ डेवलपमेंट सिस्टम डेवलपर्स को मल्टी-चिप AI सॉफ़्टवेयर को स्केल और विकसित करने में मदद कर सकते हैं।"इस लॉन्च के अलावा, हम अपने दूसरे पीढ़ी के उत्पाद ब्लैकहोल के टेप आउट और पावर-अप के साथ हो रही प्रगति को देखकर उत्साहित हैं।"
प्रत्येक वर्महोल प्रोसेसर में 72 टेन्सिक्स कोर (जिनमें से पांच विभिन्न डेटा प्रारूपों में RISC-V कोर का समर्थन करते हैं) और 108 MB SRAM होते हैं, जो 160W की थर्मल डिज़ाइन पावर के साथ 1 GHz पर 262 FP8 TFLOPS प्रदान करते हैं। सिंगल-चिप वर्महोल n150 कार्ड 12 GB GDDR6 वीडियो मेमोरी से लैस है और इसकी बैंडविड्थ 288 GB/s है।
वर्महोल प्रोसेसर कार्यभार की विविध आवश्यकताओं को पूरा करने के लिए लचीली मापनीयता प्रदान करते हैं। चार वर्महोल n300 कार्ड के साथ एक मानक वर्कस्टेशन सेटअप में, प्रोसेसर को एक एकल इकाई में जोड़ा जा सकता है जो सॉफ़्टवेयर में एकीकृत, व्यापक टेन्सिक्स कोर नेटवर्क के रूप में दिखाई देता है। यह कॉन्फ़िगरेशन एक्सेलेरेटर को एक ही कार्यभार को संभालने, चार डेवलपर्स के बीच विभाजित करने या एक साथ आठ अलग-अलग AI मॉडल चलाने की अनुमति देता है। इस मापनीयता की एक प्रमुख विशेषता यह है कि इसे वर्चुअलाइजेशन की आवश्यकता के बिना स्थानीय रूप से चलाया जा सकता है। डेटा सेंटर के माहौल में, वर्महोल प्रोसेसर मशीन के अंदर विस्तार के लिए PCIe या बाहरी विस्तार के लिए ईथरनेट का उपयोग करेंगे।
प्रदर्शन के संदर्भ में, टेन्सटॉरेंट के एकल-चिप वर्महोल n150 कार्ड (72 टेन्सिक्स कोर, 1 गीगाहर्ट्ज आवृत्ति, 108 एमबी SRAM, 12 जीबी GDDR6, 288 जीबी/एस बैंडविड्थ) ने 160W पर 262 FP8 TFLOPS प्राप्त किया, जबकि दोहरे-चिप वर्महोल n300 बोर्ड (128 टेन्सिक्स कोर, 1 गीगाहर्ट्ज आवृत्ति, 192 एमबी SRAM, समेकित 24 जीबी GDDR6, 576 जीबी/एस बैंडविड्थ) 300W पर 466 FP8 TFLOPS तक प्रदान करता है।
300W के 466 FP8 TFLOPS को संदर्भ में रखने के लिए, हम इसकी तुलना AI मार्केट लीडर Nvidia द्वारा इस थर्मल डिज़ाइन पावर पर दी जा रही पेशकश से करेंगे। Nvidia का A100 FP8 को सपोर्ट नहीं करता है, लेकिन यह INT8 को सपोर्ट करता है, जिसमें 624 TOPS (स्पैस होने पर 1,248 TOPS) का पीक परफॉरमेंस है। इसकी तुलना में, Nvidia का H100 FP8 को सपोर्ट करता है और 300W पर 1,670 TFLOPS (स्पैस होने पर 3,341 TFLOPS) के पीक परफॉरमेंस तक पहुँचता है, जो Tenstorrent के Wormhole n300 से काफी अलग है।
हालाँकि, एक बड़ी समस्या है। Tenstorrent का Wormhole n150 $999 में बिकता है, जबकि n300 $1,399 में बिकता है। तुलना करके, एक Nvidia H100 ग्राफ़िक्स कार्ड की खुदरा कीमत $30,000 है, जो मात्रा पर निर्भर करता है। बेशक, हम नहीं जानते कि चार या आठ Wormhole प्रोसेसर वास्तव में एक H300 का प्रदर्शन दे सकते हैं, लेकिन उनके TDP क्रमशः 600W और 1200W हैं।
कार्डों के अतिरिक्त, टेन्सटॉरेंट डेवलपर्स के लिए पूर्व-निर्मित वर्कस्टेशन भी प्रदान करता है, जिसमें सक्रिय कूलिंग के साथ अधिक किफायती जिऑन-आधारित टीटी-लाउडबॉक्स में 4 एन300 कार्ड और ईपीवाईसी-आधारित ज़ियाओलोंग) लिक्विड कूलिंग फ़ंक्शन के साथ उन्नत टीटी-क्विटबॉक्स शामिल हैं।
पोस्ट करने का समय: जुलाई-29-2024