首页

时政

视觉

活动

经济

融媒思政



观点

深度

乡村云


旅游

地方频道



健康

数字经济




大咖论“数” | 四方面提升大模型工程化落地能力

以大模型为核心的人工智能(AI)技术是引领新一轮科技革命和产业变革的重要驱动力,它正广泛改变着人们的生产和生活。

AI不再停留于理论探索阶段,而是渗透千行百业,从医疗健康、教育培训到金融服务、交通运输、智能制造,AI应用的触角不断延伸,大模型的落地路径逐渐清晰,落地场景逐渐明朗。

大模型代表了人工智能发展新范式,在行业内落地场景丰富多样。

在金融行业,大模型主要应用于营销、客服、风控等场景,有效解决金融领域人力成本高、风险管控滞后等问题。如某银行基于AI的智能风控可实现毫秒级别的快速风控,将风险防控准确率提升约2倍。

在电信行业,大模型主要应用于客户服务、营销推广、网络运维、故障预测等场景,有效解决电信领域用户需求复杂、网络优化难度高等问题。某运营商打造基于网络大模型的网络运维AI助手,使得网络运维准确率超88%。

在政务行业,大模型主要应用于市民咨询、舆情分析等场景,有效解决基层工作强度大、响应速度慢、数据孤岛等问题。某单位利用大模型提升政务工作效率,在接诉即办场景中派单准确率超87%。

大模型在部分领域展现出良好应用效果。各行业期望采纳大模型技术推动业务变革,从而达到降本增效及业务重塑的目标。

在内容生成场景,大模型推动生成创作能力的阶跃,为文案、营销和办公领域注入智能化动力,重塑内容生产流程。

在知识管理场景,大模型将企业内不同系统的知识资源进行有效沉淀、管理和运用。如员工培训系统、客服支持系统以及信息检索系统等,提升知识构建及应用效率。

在软件工程场景,大模型在开发、测试、运维等环节的应用,通过代码生成、运维助手等能力,可显著提高软件研发质效。

尽管大模型展示了巨大的潜力和广泛的应用前景,但在工程化过程中仍面临诸多挑战,需要从模型服务化、模型研运管理、数据治理及风险管控四个方面共同提升落地能力。

构建和落地模型即服务体系,推动模型服务以云的方式灵活供给。企业引入大模型首先面临的挑战是工具链不完整、模型建设成本高等问题,需要自行填补诸多空缺而增大了应用复杂度。为此,企业迫切需要一个综合且高效的工具链平台,或者灵活可调用的高效率高性能的模型服务。模型即服务体系通过将AI模型及其相关能力打包成可重复使用的服务,使企业能够快速高效地构建、部署、监控、调用模型,无需开发和维护底层基础能力,大大降低AI模型应用的复杂度。

建立运营管理体系,提升模型能力的稳定性及模型管理的可靠性。随着AI技术的蓬勃发展,特别是大模型时代的到来,AI领域也亟需一套联结开发团队、算法团队、部署团队、运营团队和风险管理等团队,共同建立研发、部署和运维各环节的标准化模型运营管理体系,以提高整体运营效率、管理能力和模型能力,为大模型规模化落地提供管理层面的保障。

提升数据治理水平,强化模型构建和优化质量。大模型等AI技术的应用过程中,激活并有效利用私域数据成为不可或缺的一环。伴随AI技术的全栈部署和模型微调等实践,通过构建面向AI的数据治理体系,可提高模型训练和微调质量,提升模型推理能力。

构建风险管控机制,助力模型可信能力提升。构建风险度量体系、风险管控流程、风险规划、风险监测和应对处理机制,全面管控AI风险,提升模型可信能力,从而为AI赋能千行百业做好充分准备。

以大模型为核心的人工智能技术已成为我国发展新型工业化过程中的关键技术变量,AI大模型的集成应用与新型工业化发展的需求高度契合,为产业转型升级提供了强大动能。未来,通过技术能力的持续突破、AI落地场景的持续探索,大模型应用将成为构筑核心竞争优势的关键。(魏 凯 秦思思

(作者魏凯为中国信息通信研究院人工智能研究所所长,秦思思为中国信息通信研究院人工智能研究所高级工程师)

1