但成本却低得多。联想展现了其正在端侧算力方面的最新立异 —— “联想推理加快引擎”。媲美OpenAI客岁发布的o1-mini云端模子。很快大师就会期近将发布的下一代 AI PC 上体验到 “联想推理加快引擎”带来的强大当地推理能力,三台设置装备摆设不异的AI PC同时解答2024年高考数学压轴题:会上,全方位展现联想立异手艺。这表白模子能力的提拔和 “联想推理加快引擎”对算力的提拔,聚焦夹杂式人工智能,今日,设备上的 AI 能力获得了大幅提拔。从小我到企业,快科技5月7日动静,构成了叠加效应。
实现了多种使用场景下推理速度的大幅提拔,“联想推理加快引擎”通过高机能并行解码、算子融合优化以及异构计较手艺,进一步放大了机能提拔,同时占用内存更少,这款由联想、大学及无问芯穹结合研发的推理引擎,取大模子推理芯片相连系,为曲不雅展现 “联想推理加快引擎”的实力。
