जिम केलर के नेतृत्व वाली चिप कंपनी टेनस्टोरेंट ने एआई वर्कलोड के लिए अपनी अगली पीढ़ी के वर्महोल प्रोसेसर को जारी किया है, जो कि वह एक सस्ती कीमत पर अच्छे प्रदर्शन की पेशकश करने की उम्मीद करता है।कंपनी वर्तमान में दो अतिरिक्त PCIE कार्ड प्रदान करती है जो एक या दो वर्महोल प्रोसेसर, साथ ही सॉफ्टवेयर डेवलपर्स के लिए TT-Loudbox और TT-Quietbox वर्कस्टेशन को समायोजित कर सकते हैं। आज की सभी घोषणाएं डेवलपर्स के उद्देश्य से हैं, न कि वाणिज्यिक कार्यभार के लिए वर्महोल बोर्ड का उपयोग करने वाले।
टेनस्टोरेंट के सीईओ जिम केलर ने कहा, "यह हमेशा हमारे उत्पादों को डेवलपर्स के हाथों में लाने के लिए संतुष्टिदायक है। हमारे वर्महोल ™ कार्ड का उपयोग करके विकास प्रणाली जारी करने से डेवलपर्स को पैमाने और मल्टी-चिप एआई सॉफ्टवेयर विकसित करने में मदद मिल सकती है।"इस लॉन्च के अलावा, हम अपनी दूसरी पीढ़ी के उत्पाद, ब्लैकहोल के टेप और पावर-अप के साथ जो प्रगति कर रहे हैं, उसे देखने के लिए उत्साहित हैं। "
प्रत्येक वर्महोल प्रोसेसर में 72 टेंसिक्स कोर (जिनमें से पांच विभिन्न डेटा प्रारूपों में RISC-V कोर का समर्थन करते हैं) और 108 MB SRAM, 160W की थर्मल डिज़ाइन पावर के साथ 1 GHz पर 262 FP8 TFlops प्रदान करते हैं। सिंगल-चिप वर्महोल N150 कार्ड 12 GB GDDR6 वीडियो मेमोरी से सुसज्जित है और इसमें 288 gb/s का बैंडविड्थ है।
वर्महोल प्रोसेसर वर्कलोड की विविध आवश्यकताओं को पूरा करने के लिए लचीली स्केलेबिलिटी प्रदान करते हैं। चार वर्महोल N300 कार्ड के साथ एक मानक वर्कस्टेशन सेटअप में, प्रोसेसर को एक एकल इकाई में जोड़ा जा सकता है जो सॉफ़्टवेयर में एक एकीकृत, व्यापक टेंसिक्स कोर नेटवर्क के रूप में दिखाई देता है। यह कॉन्फ़िगरेशन त्वरक को एक ही कार्यभार को संभालने, चार डेवलपर्स के बीच विभाजित करने या एक साथ आठ अलग -अलग एआई मॉडल तक चलने की अनुमति देता है। इस स्केलेबिलिटी की एक प्रमुख विशेषता यह है कि यह वर्चुअलाइजेशन की आवश्यकता के बिना स्थानीय रूप से चल सकती है। एक डेटा सेंटर के वातावरण में, वर्महोल प्रोसेसर मशीन के अंदर विस्तार के लिए पीसीआई का उपयोग करेंगे, या बाहरी विस्तार के लिए ईथरनेट।
प्रदर्शन के संदर्भ में, टेनस्टोरेंट के सिंगल-चिप वर्महोल N150 कार्ड (72 टेंसिक्स कोर, 1 गीगाहर्ट्ज आवृत्ति, 108 एमबी एसआरएएम, 12 जीबी जीडीडीआर 6, 288 जीबी/एस बैंडविड्थ) ने 160W पर 262 FP8 TFLOPs प्राप्त किया, जबकि ड्यूल-चिप्स वर्महोल N300 बोर्ड (128 टेंसिक्स, 128 टेंसिक्स, 1 24 GB GDDR6, 576 GB/S BANDWIDTH) 300W पर 466 FP8 TFlops तक पहुंचाता है।
466 FP8 Tflops के 300W को संदर्भ में डालने के लिए, हम इसकी तुलना इस बात से करेंगे कि AI मार्केट लीडर Nvidia इस थर्मल डिज़ाइन पावर में क्या पेशकश कर रहा है। NVIDIA का A100 FP8 का समर्थन नहीं करता है, लेकिन यह INT8 का समर्थन करता है, जिसमें 624 टॉप्स (1,248 टॉप्स जब विरल) का शिखर प्रदर्शन होता है। इसकी तुलना में, NVIDIA का H100 FP8 का समर्थन करता है और 300W (3,341 Tflops पर स्पार्स) पर 1,670 Tflops के शिखर प्रदर्शन तक पहुंचता है, जो कि टेनस्टोरेंट के वर्महोल N300 से काफी अलग है।
हालांकि, एक बड़ी समस्या है। टेनस्टोरेंट का वर्महोल N150 $ 999 के लिए रिटेल करता है, जबकि N300 $ 1,399 में बेचता है। तुलनात्मक रूप से, एक एकल NVIDIA H100 ग्राफिक्स कार्ड मात्रा के आधार पर $ 30,000 के लिए रिटेल करता है। बेशक, हम नहीं जानते कि क्या चार या आठ वर्महोल प्रोसेसर वास्तव में एक ही H300 के प्रदर्शन को वितरित कर सकते हैं, लेकिन उनके TDPs क्रमशः 600W और 1200W हैं।
कार्ड के अलावा, टेनस्टोरेंट डेवलपर्स के लिए पूर्व-निर्मित वर्कस्टेशन प्रदान करता है, जिसमें सक्रिय शीतलन के साथ अधिक किफायती Xeon- आधारित TT-Loudbox में 4 N300 कार्ड शामिल हैं, और EPYC- आधारित Xiaolong के साथ उन्नत TT-QuietBox) लिक्विड कूलिंग फ़ंक्शन)।
पोस्ट टाइम: जुलाई -29-2024