近日，由中国电子商会人工智能委员会主办的2023北京人工智能峰会暨第三届AI金雁奖颁奖仪式在北京昌大进行。轮回智能（Recurrent AI）凭仗在AI年夜模子手艺上的立异、堆集和利用，颠末专家评审团的层层评选和挑选后取得了“2022人工智能手艺立异年夜奖”，轮回智能结合开创人杨植麟博士也被评选为“2022 AI领甲士物”。

中国AI金雁奖是由来自人工智能范畴从手艺研发到市场营销和创投基金、从国度院士到企业高管和知名投资人等分歧布景的专家和机构构成的评审团，从多维度的不雅察与分解，多面向的评估与查核，颠末初审、复审到终审，层层评选、层层挑选出在AI手艺和贸易范畴有着冲破性主要进献的单元和小我，致力在不竭为中国人工智能科技范畴挖掘出优异的“头雁”。

轮回智能自立研发千亿参数预练习NLP年夜模子“盘古”，是业内首个千亿参数的中文年夜模子，具有1100亿密集参数，颠末40TB的海量数据练习而成。同时也im电竞经由过程多使命prompt等手艺延长出10亿参数、机能更好的落地版本，极年夜地加快了AI的贸易利用效力和泛化能力，晋升NLP模子出产效力10-1000倍。“盘古”年夜模子刷新了世界中文CLUE榜单三项记实，并取得了2021世界人工智能年夜会“SAIL之星”声誉。利用层面，轮回智能供给基在“AI+发卖科技”的解决方案，今朝已赋能超100万一耳目员，日均处置上亿次对话，在各行各业堆集了丰硕的发卖增加实践、发卖阐发模子和最好沟通素材，累计出产了10000+面向各行业营业流程的AI数据模子。本次评选，轮回智能凭仗AI年夜模子手艺立异、年夜量营业实践博得了评审团的承认，取得“2022人工智能手艺立异年夜奖”和“2022 AI领甲士物”两项年夜奖。

颁奖仪式上，轮回智能结合开创人兼CTO张宇韬博士作为获奖企业的代表，受邀颁发了《AI年夜模子在企业办事场景下的实践与摸索》的主题演讲，与现场带领、评审团、行业专家、媒体和100多位企业代表分享了AI年夜模子在企业落地的首要挑战、轮回智能“千循零样本平台”多模子策略和利用场景，和在年夜模子在企业利用场景的最新摸索与实践。

以下是演讲内容的回首：

以ChatGPT为代表的年夜模子利用开启了通用人工智能的新范式，此中最要害的手艺立异是基在人类反馈数据的系统进行模子练习，从而晋升了理解人类设法的正确性。

但企业在利用AI年夜模子时也面对着三年夜挑战，这些挑战也表现了GPT模子的局限性。

挑战一：事实性毛病。事实性毛病（即看似准确，但与事实不符），是GPT模子的道理带来的。GPT的模子优化方针是在有限的练习数据上泛化出无穷的能力，当问题跨越模子常识规模时，会最先自我缔造。事实性毛病的挑战，固然在现有的手艺线路下没法百分之百解决，但可以经由过程两种路径来“削弱”其影响。第一种是晋升模子的常识规模，当模子的常识规模越年夜时，事实性毛病也就会越少。第二种是经由过程更好地让模子对齐人类的需乞降价值不雅，尽量以适合的体例谢绝回覆超越规模的问题，从而削减事实性毛病酿成的影响。

挑战二：难融入企业私域数据。像ChatGPT如许的通用AI系统，其能力上限是公域存量数据的规模，由于企业内部年夜量的信息、常识、数据均没法被公域模子笼盖。是以，企业内的垂直营业需求是没法被公域模子正确理解的。而企业内的垂直营业需求是与营业流程强相干的，常常需要连系内部数据作为上下文，才能正确理解。例如，客户质量阐发场景，企业客户假如直接利用近似 ChatGPT 的通用AI系统，输入客户信息和对话内容，来鉴定客户是不是属在优良客户，那末获得的成果常常不睬想。首要缘由是，通用AI系统其实不清晰企业内部对优良客户的界说，并且分歧企业对优良客户的界说很年夜水平上是分歧的。

挑战三：范围化利用本钱高。当前，百亿参数的模子输出（推理）速度大要可以做到每一个GPU每秒生成 20 个字摆布（30token）。在及时文本交互（在线客服、问答）场景，一个GPU撑持3-5个并发客户，那末100万“日活跃用户”，对应的峰值并发约10000，需要 2000-3000个GPU，本钱过在昂扬。在及时语音交互场景（德律风沟通、语音通话、视频通话）场景，在单个GPU单并发环境下，文本生成的句末延迟约1到3秒，叠加TTS（文本转语音）的延迟，根基没法支持需求。

曩昔几年，轮回智能在年夜模子练习和利用实践中有很是多的手艺堆集，为解决这些困难打下了杰出的根本：起首，堆集了年夜量行业文本和语音数据，中文文本数据跨越40TB，真实语音对话数据跨越 400 万小时；其次，具有超年夜范围预练习模子的工程化经验，主导开辟和落地了首个千亿参数的中文说话年夜模子“盘古”，具有丰硕的数据收集、清洗和标注经验。主导开辟了面向认知的“悟道·文汇”超年夜范围预练习模子；第三，精晓场景化的多使命指令微调，在银行、保险、证券、地产、汽车、零售等行业有丰硕的营业实践。

本年，轮回智能也将推出自研的“千循零样本AI平台”。“千循零样本AI平台”采取了多模子组合的策略，包罗10亿参数的盘古NLU（天然说话理解）模子，首要办事语义理解的场景，和面向更复杂的文本生成类使命、参数范围更年夜的“千循-M”和“千循-XL”模子等。同时，为了使模子更好地适配企业需求，“千循零样本平台”供给多种“微调”方案，包罗 P-tuning、Instruction tuning、LoRA等，可以更好地融入企业的专有常识库数据。

“千循零样本AI平台”在底层供给AI年夜模子的高质量文本理解能力、逻辑推理能力和文本生成能力。基在这些能力，在企业需要对交际互的营销场景、办事场景，和内部的常识培训和内容运营场景，供给多种立异利用，帮忙分歧场景的分歧脚色员工晋升产能和工作效力。

在智能化内容运营与出产场景，“千循零样本AI平台”供给“话术质量的阐发&发掘与优化建议、案牍主动化生成与撰写、和基在常识库的智能问答能力。

在客户画像与需求的智能阐发场景，“千循零样本AI平台”供给基在对话内容主动辨认客户画像与需求、基在对话内容总结客户所有爱好点&评价和发问和天然说话输入信息，快速进行客户描摹能力。

在智能化营业阐发与决议计划保举场景，“千循零样本AI平台”供给“基在对话全文生成营业策略的能力”，在房产和汽车发卖场景，可以给出靠谱的商机跟进建议。还供给“基在对话内容评判办事结果”的能力，可以帮忙企业领会客户对售后办事是不是满足，和满足的处所和不满足的处所别离是甚么。之前企业首要是经由过程问卷来搜集客户满足度，填写问卷的人数占比很少，此刻可以做全量的满足度阐发。