जिम केलर के नेतृत्व वाली चिप कंपनी टेनस्टोरेंट ने एआई वर्कलोड के लिए अपना अगली पीढ़ी का वर्महोल प्रोसेसर जारी किया है, जिससे उसे किफायती कीमत पर अच्छा प्रदर्शन मिलने की उम्मीद है।कंपनी वर्तमान में दो अतिरिक्त पीसीआईई कार्ड पेश करती है जिनमें एक या दो वर्महोल प्रोसेसर लगाए जा सकते हैं, साथ ही सॉफ्टवेयर डेवलपर्स के लिए टीटी-लाउडबॉक्स और टीटी-क्वाइटबॉक्स वर्कस्टेशन भी उपलब्ध हैं। आज की सभी घोषणाएं डेवलपर्स के लिए हैं, न कि उन लोगों के लिए जो व्यावसायिक कार्यों के लिए वर्महोल बोर्ड का उपयोग करते हैं।
“डेवलपर्स के हाथों में हमारे उत्पादों की बढ़ती उपलब्धता हमेशा संतोषजनक होती है। हमारे वर्महोल™ कार्ड का उपयोग करने वाले रिलीज़ डेवलपमेंट सिस्टम डेवलपर्स को मल्टी-चिप एआई सॉफ़्टवेयर को स्केल करने और विकसित करने में मदद कर सकते हैं,” टेनस्टोरेंट के सीईओ जिम केलर ने कहा।इस लॉन्च के अलावा, हम अपने दूसरी पीढ़ी के उत्पाद, ब्लैकहोल के टेप आउट और पावर-अप में हो रही प्रगति को देखकर उत्साहित हैं।"
प्रत्येक वर्महोल प्रोसेसर में 72 टेन्सिक्स कोर (जिनमें से पांच विभिन्न डेटा फॉर्मेट में RISC-V कोर को सपोर्ट करते हैं) और 108 MB SRAM है, जो 1 GHz पर 262 FP8 TFLOPS की क्षमता और 160W की थर्मल डिज़ाइन पावर प्रदान करता है। सिंगल-चिप वर्महोल n150 कार्ड में 12 GB GDDR6 वीडियो मेमोरी है और इसकी बैंडविड्थ 288 GB/s है।
वर्महोल प्रोसेसर विभिन्न प्रकार के कार्यभारों की आवश्यकताओं को पूरा करने के लिए लचीली स्केलेबिलिटी प्रदान करते हैं। चार वर्महोल n300 कार्ड वाले एक मानक वर्कस्टेशन सेटअप में, प्रोसेसर को एक इकाई में संयोजित किया जा सकता है जो सॉफ़्टवेयर में एक एकीकृत, व्यापक टेन्सिक्स कोर नेटवर्क के रूप में दिखाई देता है। यह कॉन्फ़िगरेशन एक्सेलेरेटर को समान कार्यभार को चार डेवलपर्स के बीच विभाजित करके या एक साथ आठ अलग-अलग AI मॉडल चलाने की अनुमति देता है। इस स्केलेबिलिटी की एक प्रमुख विशेषता यह है कि यह वर्चुअलाइजेशन की आवश्यकता के बिना स्थानीय रूप से चल सकता है। डेटा सेंटर वातावरण में, वर्महोल प्रोसेसर मशीन के भीतर विस्तार के लिए PCIe या बाहरी विस्तार के लिए ईथरनेट का उपयोग करेंगे।
प्रदर्शन के मामले में, टेनस्टोरेंट के सिंगल-चिप वर्महोल एन150 कार्ड (72 टेन्सिक्स कोर, 1 GHz आवृत्ति, 108 MB SRAM, 12 GB GDDR6, 288 GB/s बैंडविड्थ) ने 160W पर 262 FP8 TFLOPS हासिल किए, जबकि डुअल-चिप वर्महोल एन300 बोर्ड (128 टेन्सिक्स कोर, 1 GHz आवृत्ति, 192 MB SRAM, कुल 24 GB GDDR6, 576 GB/s बैंडविड्थ) 300W पर 466 FP8 TFLOPS तक प्रदान करता है।
300W पर 466 FP8 TFLOPS की क्षमता को समझने के लिए, हम इसकी तुलना AI मार्केट लीडर Nvidia द्वारा इस थर्मल डिज़ाइन क्षमता पर पेश किए जा रहे उत्पाद से करेंगे। Nvidia का A100 FP8 को सपोर्ट नहीं करता, लेकिन INT8 को सपोर्ट करता है, जिसकी अधिकतम क्षमता 624 TOPS (स्पार्स मोड में 1,248 TOPS) है। तुलनात्मक रूप से, Nvidia का H100 FP8 को सपोर्ट करता है और 300W पर 1,670 TFLOPS (स्पार्स मोड में 3,341 TFLOPS) की अधिकतम क्षमता तक पहुँचता है, जो Tenstorrent के Wormhole n300 से काफी अलग है।
हालांकि, एक बड़ी समस्या है। Tenstorrent के Wormhole n150 की कीमत $999 है, जबकि n300 की कीमत $1,399 है। तुलनात्मक रूप से, एक Nvidia H100 ग्राफिक्स कार्ड की कीमत मात्रा के आधार पर $30,000 है। बेशक, हमें यह नहीं पता कि चार या आठ Wormhole प्रोसेसर वास्तव में एक H300 के बराबर प्रदर्शन दे सकते हैं या नहीं, लेकिन उनकी TDP क्रमशः 600W और 1200W है।
कार्डों के अलावा, टेनस्टोरेंट डेवलपर्स के लिए पहले से निर्मित वर्कस्टेशन भी प्रदान करता है, जिसमें अधिक किफायती ज़ेनॉन-आधारित टीटी-लाउडबॉक्स में सक्रिय कूलिंग के साथ 4 एन300 कार्ड और ईपीवाईसी-आधारित ज़ियाओलोंग लिक्विड कूलिंग फ़ंक्शन के साथ उन्नत टीटी-क्वाइटबॉक्स शामिल हैं।
पोस्ट करने का समय: 29 जुलाई 2024