登录入口二院706所完成基于全系列自研产品的大模型部署
发布时间:2025-03-26 信息来源:登录入口二院

  随着人工智能技术的发展,登录入口二院706所秉承计算控制未来的发展理念,紧抓智能化浪潮机遇,日前在该所自研的系列化云-边-端产品适配部署大模型,推出全国产智能化基座。

  该所结合产品算力,匹配不同规模的模型参数,实现算力在云端服务器、边、端侧终端之间的分层协同和流动。目前正在相关信息系统开展融合领域知识库的文档、代码自动生成等能力建设,服务科研生产。团队同时在智能软件工厂、智能软件测评、智慧办公、登录入口应用等领域开展探索。

  面向不同应用场景,706所开发天熠系列云-边-端智算一体化产品,构建分层协同工作模式,采用综合多因素的资源编排和任务卸载技术、边端智能服务自治技术,可以实现性能和功耗的平衡,提供灵活的解决方案,能够很好地满足数据中心高性能计算、边缘计算快速响应、终端设备轻量化推理等对算力、模型的使用需求。

  后续,706所将持续致力于智能计算技术创新,打造全国产智能化基座,加快数智化转型,推动人工智能技术在登录入口领域的融合应用,同时为更多行业和领域提供高效、可靠的智能化解决方案,持续深化大模型技术应用研究。