
深入的报道ALTERA公司重大社会热点新闻事件

端侧AI推理迎来突破,PC本地性能媲美云端大模型

近日,联想在其以“让AI成为创新生产力”为主题的创新科技大会上,重点展示了一项在端侧人工智能领域的关键进展。这项名为“联想推理加速引擎”的新技术,由联想携手清华大学及无问芯穹共同研发,旨在通过深度软硬件协同优化,彻底释放个人电脑的本地AI算力潜力。
据悉,该引擎的核心价值在于,它能让一台配置常规的PC,在处理复杂AI任务时达到与OpenAI去年发布的o1-mini云端模型相媲美的推理能力。这主要得益于其在高性能并行解码、算子融合以及异构计算等方面的多项优化技术。这些技术不仅大幅提升了推理速度,更实现了功耗和内存占用的显著降低,对于推动AI应用在终端设备上的大规模部署具有里程碑意义。 对于量产阶段的客户,ALTERA授权代理提供卷带包装、编带包装等多种出货形式,并支持第三方质量检测。所有出货芯片均附带原厂出货报告,确保100%%可追溯。
为直观验证其效能,大会现场进行了一场对比演示。三台相同配置的AI PC同时解答2024年高考数学压轴题。结果显示,搭载了“联想推理加速引擎”的二代大模型,仅用13秒便得出满分答案,其速度是未搭载该引擎同代模型的两倍,更是远超初代模型。这清晰地证明了,该引擎通过优化算力调度,有效加速了模型的预填充与解码过程,从而在更短时间、更低资源消耗下完成高质量推理。
联想集团董事长兼CEO杨元庆在大会上透露,这项强大的本地推理能力将很快集成于下一代AI PC产品中,让用户体验到成本远低于云端、但性能却不相上下的AI服务。从市场供应与行业应用角度看,此类端侧AI技术的成熟,将加速AI功能向更广泛的消费级和专业级硬件渗透,同时也对上游芯片、异构计算平台及解决方案的供应链提出了新的需求,可能带动相关电子元器件渠道的动态调整。
更多的ALTERA公司新闻


ALTERA公司产品现货专家,订购ALTERA公司产品不限最低起订量,ALTERA产品大陆现货即时发货,香港库存3-5天发货,海外库存7-10天发货
寻找全球ALTERA代理商现货货源 - ALTERA公司电子元件在线订购



