उद्योग समाचार: जिम केलर ने एक नई आरआईएससी-वी चिप लॉन्च की है

प्रत्येक वर्महोल प्रोसेसर में 72 टेन्सिक्स कोर (जिनमें से पांच विभिन्न डेटा प्रारूपों में आरआईएससी-वी कोर का समर्थन करते हैं) और 108 एमबी एसआरएएम होते हैं, जो 160W की थर्मल डिजाइन शक्ति के साथ 1 गीगाहर्ट्ज पर 262 एफपी8 टीएफएलओपीएस प्रदान करते हैं। सिंगल-चिप वॉर्महोल n150 कार्ड 12 जीबी GDDR6 वीडियो मेमोरी से लैस है और इसकी बैंडविड्थ 288 जीबी/सेकेंड है।

वर्महोल प्रोसेसर कार्यभार की विभिन्न आवश्यकताओं को पूरा करने के लिए लचीली स्केलेबिलिटी प्रदान करते हैं। चार वर्महोल एन300 कार्ड के साथ एक मानक वर्कस्टेशन सेटअप में, प्रोसेसर को एक एकल इकाई में जोड़ा जा सकता है जो सॉफ्टवेयर में एक एकीकृत, व्यापक टेन्सिक्स कोर नेटवर्क के रूप में दिखाई देता है। यह कॉन्फ़िगरेशन एक्सेलेरेटर को समान कार्यभार को संभालने, चार डेवलपर्स के बीच विभाजित करने या एक साथ आठ अलग-अलग एआई मॉडल चलाने की अनुमति देता है। इस स्केलेबिलिटी की एक प्रमुख विशेषता यह है कि इसे वर्चुअलाइजेशन की आवश्यकता के बिना स्थानीय रूप से चलाया जा सकता है। डेटा सेंटर वातावरण में, वर्महोल प्रोसेसर मशीन के अंदर विस्तार के लिए PCIe या बाहरी विस्तार के लिए ईथरनेट का उपयोग करेंगे।

प्रदर्शन के संदर्भ में, टेनस्टोरेंट के सिंगल-चिप वर्महोल एन150 कार्ड (72 टेन्सिक्स कोर, 1 गीगाहर्ट्ज़ फ्रीक्वेंसी, 108 एमबी एसआरएएम, 12 जीबी जीडीडीआर6, 288 जीबी/एस बैंडविड्थ) ने 160W पर 262 एफपी8 टीएफएलओपीएस हासिल किया, जबकि डुअल-चिप वर्महोल एन300 बोर्ड (128 टेन्सिक्स कोर, 1 गीगाहर्ट्ज फ्रीक्वेंसी, 192 एमबी एसआरएएम, समग्र 24 जीबी जीडीडीआर6, 576 जीबी/एस बैंडविड्थ) 300W पर 466 एफपी8 टीएफएलओपीएस तक वितरित करता है।

466 एफपी8 टीएफएलओपीएस के 300W को संदर्भ में रखने के लिए, हम इसकी तुलना एआई मार्केट लीडर एनवीडिया द्वारा इस थर्मल डिजाइन पावर पर पेश की जाने वाली पेशकश से करेंगे। एनवीडिया का A100 FP8 का समर्थन नहीं करता है, लेकिन यह INT8 का समर्थन करता है, 624 TOPS (कम होने पर 1,248 TOPS) के चरम प्रदर्शन के साथ। इसकी तुलना में, एनवीडिया का H100 FP8 को सपोर्ट करता है और 300W पर 1,670 TFLOPS के चरम प्रदर्शन तक पहुंचता है (3,341 TFLOPS विरल पर), जो कि टेनस्टोरेंट के वर्महोल n300 से काफी अलग है।

हालाँकि, एक बड़ी समस्या है. टेनस्टोरेंट का वर्महोल एन150 $999 में बिकता है, जबकि एन300 $1,399 में बिकता है। तुलनात्मक रूप से, एक एनवीडिया एच100 ग्राफ़िक्स कार्ड मात्रा के आधार पर 30,000 डॉलर में बिकता है। बेशक, हम नहीं जानते कि क्या चार या आठ वर्महोल प्रोसेसर वास्तव में एक एकल H300 का प्रदर्शन प्रदान कर सकते हैं, लेकिन उनकी टीडीपी क्रमशः 600W और 1200W हैं।

कार्ड के अलावा, टेनस्टोरेंट डेवलपर्स के लिए पूर्व-निर्मित वर्कस्टेशन प्रदान करता है, जिसमें सक्रिय कूलिंग के साथ अधिक किफायती Xeon-आधारित TT-LoudBox में 4 n300 कार्ड और EPYC-आधारित ज़ियाओलॉन्ग) लिक्विड कूलिंग फ़ंक्शन के साथ उन्नत TT-QuietBox शामिल है)।