在人工智能技术的浪潮中，大模型凭借其强大的自然语言处理能力，成为企业数字化转型的加速器。然而，大模型在企业落地过程中往往会遇到很多问题，每个实际应用都是由大量碎片化的场景组合而成，大模型难以有效落地，成为了企业面临的主要挑战。
大模型落地 几大挑战
1、数据泄露风险：传统预训练和微调模式比较复杂，客户需要将自身数据委托大模型厂商进行训练，造成隐私数据在传输、存储或处理过程中存在泄露风险。
2、预训练与微调模式成本高昂，效率低：哪怕是少量数据的删除或增加都需要全部重新训练，造成训练成本高昂；同时增量的数据无法及时被压缩到大模型网络里，造成大模型与企业更新数据无法实时结合，影响商业落地。
3、性参比低：传统大模型直接使用Transformer开源框架，造成模型参数大、训练和推理算力消耗大、训练时间长，性参比低。（性参比=大模型能力分数/大模型参数）。
4、技术路径依赖：基于开源的机器学习框架和Transformer开源框架训练的大模型，无法摆脱国外技术依赖，存在安全漏洞以及停更、停服、停用的风险。
针对上述问题，传神语联网网络科技股份有限公司（以下简称“传神”）技术副总裁蔺伟在2024全球机器学习大会中曾分享这样的观点，“假设一个手机预装了全球的 App，它的成本大概是几十万一台。对用户来说，拿到手第一件事就是删掉不需要的 App；现在的集中式预训练就像这样，成本高昂且实用性不足，而理想方式是降低预训练成本并增强模型实时学习能力以满足客户需求。”我们认为当前已经由Scaling Law时代进入实时学习时代。
（传神技术副总裁蔺伟作分享）
重磅发布 应运而生
为了有效破解大模型落地难的问题，传神始终坚定不移的走在实时学习的探索路上，在会上重磅发布了任度“双脑”大模型一体机，这款一体机成功开创了“数推分离双网络”技术，是全球大模型应用落地的首次突破。
技术突破 核心优势
1、数据安全：数推分离双网络架构的一体机，在企业本地部署，数据不离场，并且特有的技术模式大幅降低训练的难度，非技术人员就可以完成训练过程，最大限度避免数据的泄露风险。
2、降低成本，提高效率：全球首创的数推分离双网络架构实现实时学习能力，使得客户业务中产生的数据，也可以实时将更新数据快速压缩到大模型网络里，而不是全数据训练模式。该模式显著降低了训练算力成本，同时也最大限度的解决了微调训练模型造成的基座模型能力退化和泛化能力减弱等问题。
3、高性参比：从底层机器学习框架zANN到大模型的moH框架全栈自研，一体机内置的任度大模型有9B和2.1B两种小参数模型，因此在训练与推理算力成本上都显著降低，仅为同等大型模型的10%-25%，展现了极高的性参比。
4、技术路径创新、自主可控：全栈无开源框架和开源代码的依赖，无安全漏洞、没有地缘政治带来的潜在停更、停服、停用的风险。
应用落地 价值体现
任度“双脑”大模型一体机已成功应用在央国企、金融、医疗、教育等多领域。
1、赋能某券商研究院打造投研智能助理，用户只需用自然语言和投研智能助理进行沟通，投研智能助理就能根据提问快速输出准确回复，并根据客户需求定制化生成输出标准文件（如PDF、图表），大幅节约终端费用。
2、某央企单位则通过任度“双脑”大模型一体机部署了智能编程助手，在编程时提供代码建议和自动补全功能，可高精度满足代码生成需求，让研发人员掌握新质生产力工具，助力研发降本增效，实现业务高质量发展。
任度“双脑”大模型一体机的落地，不仅破解了大模型在企业落地过程中的诸多难题，更为千行百业的数字化转型提供了强大动力。从智慧政务到智慧城市，从金融风控到医疗健康，任度“双脑”大模型一体机正以其独特的优势推动AI价值在更广泛的领域落地。
联合生态 共创未来
在人工智能大模型技术飞速发展的如今，生态协作的力量发挥着无比重要的作用。面对大模型落地难的诸多痛点，传神与多家生态合作伙伴深度合作，克服重重困难，共同推动人工智能领域的革命性变革。
会上，传神与中国搜索信息科技股份有限公司、北京知道数智技术有限公司、武汉迈异信息科技有限公司分别达成战略合作。传神将携手三家合作伙伴，分别在平台建设和数据共享、大模型开发与应用服务等不同技术领域展开深度协作，共同迈向数智共生的未来。本次合作不仅标志着任度“双脑”大模型一体机的应用落地，更是代表着传神与合作伙伴共生共荣、共创共赢的关系。
展望未来，传神将继续秉持开放合作的理念，更加专注大模型技术的深度研发与优化，致力于解决大模型落地的难题，以满足不同行业对智能技术的多元化需求。同时，传神也将积极拓宽合作网络，吸纳更多来自不同领域、拥有独特资源与优势的生态合作伙伴加入这一创新生态体系，共同探索大模型技术的新边界，推动AI技术在更广泛的社会经济生活中发挥积极作用，携手开创AI新篇章。
