聯想集團(00992)在聯想創新科技大會(Tech World)上,展示了端側算力「聯想推理加速引擎」。 這款由聯想、清華大學及無問芯穹聯合研發的推理引擎,專為高效AI PC推理而設計,是一個軟硬件協同優化平台,可以讓一台普通PC的本地推理能力,媲美OpenAI去年發布的o1-mini雲端模型。 「聯想推理加速引擎」透過高效能並行解碼、算子融合最佳化以及異質運算技術, 實現了多種應用場景下推理速度的大幅提升,以及功耗和記憶體佔用的顯著降低。與大模型推理晶片結合,透過硬體加速與軟體優化的無縫協作,進一步放大了效能提升,形成了疊加效應。 #聯想 #聯想推理加速引擎 #AI PC (CW)
<匯港通訊>