Groq大模型加速


Groq 是集软硬件服务于一体的大模型推理加速方案,成立于2016年,创始团队中很多都是谷歌TPU的原班人马。自创 LPM(Language Processing Unit™)加速方案,硬件参数其硬件产品为 GroqCard,Groq的芯片采用14nm制程,搭载了230MB大SRAM来保证内存带宽,

减少方差的技术


SVM