انڈسٹری نیوز: جم کیلر نے ایک نئی RISC-V چپ لانچ کی ہے۔

ہر ورم ہول پروسیسر میں 72 ٹینسکس کور ہوتے ہیں (جن میں سے پانچ مختلف ڈیٹا فارمیٹس میں RISC-V کور کو سپورٹ کرتے ہیں) اور 108 MB SRAM، 160W کی تھرمل ڈیزائن پاور کے ساتھ 1 GHz پر 262 FP8 TFLOPS فراہم کرتے ہیں۔ سنگل چپ ورم ہول n150 کارڈ 12 GB GDDR6 ویڈیو میموری سے لیس ہے اور اس کی بینڈوتھ 288 GB/s ہے۔

ورم ہول پروسیسرز کام کے بوجھ کی متنوع ضروریات کو پورا کرنے کے لیے لچکدار اسکیل ایبلٹی فراہم کرتے ہیں۔ چار Wormhole n300 کارڈز کے ساتھ ایک معیاری ورک سٹیشن سیٹ اپ میں، پروسیسرز کو ایک واحد یونٹ میں جوڑا جا سکتا ہے جو سافٹ ویئر میں ایک متحد، وسیع Tensix کور نیٹ ورک کے طور پر ظاہر ہوتا ہے۔ یہ کنفیگریشن ایکسلریٹر کو ایک ہی کام کے بوجھ کو سنبھالنے، چار ڈویلپرز کے درمیان تقسیم کرنے یا بیک وقت آٹھ مختلف AI ماڈلز کو چلانے کی اجازت دیتی ہے۔ اس اسکیل ایبلٹی کی ایک اہم خصوصیت یہ ہے کہ یہ ورچوئلائزیشن کی ضرورت کے بغیر مقامی طور پر چل سکتا ہے۔ ڈیٹا سینٹر کے ماحول میں، ورم ہول پروسیسرز مشین کے اندر توسیع کے لیے PCIe، یا بیرونی توسیع کے لیے ایتھرنیٹ استعمال کریں گے۔

کارکردگی کے لحاظ سے، Tenstorrent کے سنگل چپ Wormhole n150 کارڈ (72 Tensix cores، 1 GHz فریکوئنسی، 108 MB SRAM، 12 GB GDDR6، 288 GB/s بینڈوتھ) نے 160W پر 262 FP8 TFLOPS حاصل کیا، جبکہ durmhole 160W پر (128 Tensix cores، 1 GHz فریکوئنسی، 192 MB SRAM، مجموعی 24 GB GDDR6، 576 GB/s بینڈوتھ) 300W پر 466 FP8 TFLOPS تک فراہم کرتا ہے۔

466 FP8 TFLOPS کے 300W کو سیاق و سباق میں ڈالنے کے لیے، ہم اس کا موازنہ کریں گے کہ AI مارکیٹ لیڈر Nvidia اس تھرمل ڈیزائن پاور پر کیا پیش کر رہا ہے۔ Nvidia کا A100 FP8 کو سپورٹ نہیں کرتا ہے، لیکن یہ INT8 کو سپورٹ کرتا ہے، جس میں 624 TOPS (1,248 TOPS اسپرس ہونے پر) کی بہترین کارکردگی ہے۔ اس کے مقابلے میں، Nvidia کا H100 FP8 کو سپورٹ کرتا ہے اور 300W پر 1,670 TFLOPS کی اعلی کارکردگی تک پہنچتا ہے (3,341 TFLOPS اسپارس پر)، جو Tenstorrent's Wormhole n300 سے نمایاں طور پر مختلف ہے۔

تاہم، ایک اہم مسئلہ ہے. Tenstorrent's Wormhole n150 $999 میں فروخت ہوتا ہے، جبکہ n300 $1,399 میں فروخت ہوتا ہے۔ اس کے مقابلے میں، ایک واحد Nvidia H100 گرافکس کارڈ مقدار کے لحاظ سے $30,000 میں فروخت ہوتا ہے۔ بلاشبہ، ہم نہیں جانتے کہ آیا چار یا آٹھ ورم ہول پروسیسر ایک ہی H300 کی کارکردگی پیش کر سکتے ہیں، لیکن ان کے TDPs بالترتیب 600W اور 1200W ہیں۔

کارڈز کے علاوہ، Tenstorrent ڈویلپرز کے لیے پہلے سے تعمیر شدہ ورک سٹیشنز پیش کرتا ہے، جس میں فعال کولنگ کے ساتھ زیادہ سستی Xeon-based TT-LoudBox میں 4 n300 کارڈز، اور EPYC پر مبنی Xiaolong) مائع کولنگ فنکشن کے ساتھ جدید TT-QuietBox) شامل ہیں۔