SmabaNovaの次世代チップ

SAMBANOVA DOUBLES UP CHIPS TO CHASE AI FOUNDATION MODELS (NEXT PLATFORM)より。

AI処理は、多数のアプリケーションごとの比較的小さいモデルの利用から、巨大な基盤モデルを中心とした汎用化への移行が始まっている。巨大基盤モデルの構築には非常に大きな計算能力が求められる。SambaNovaは、Reconfigurable Data Unit (RDU)により、この問題に対応しようとしている。

• 第１世代 : Cardinal SN10 2020出荷
  • TSMC 7nm
  • 40B Tr., BF16 320TFlops, 320MB SRAM, 150TB/s memory B/W
  • 1.5TB DDR4
• 第２世代： Cardinal SN30
  • TSMC 7nm, Multi-die packaging
  • BF16 688TFlops, 640MB SRAM
  • 3TB DDR emmory