重庆首个自主研发大语言模型发布
科技日报讯 记者7月15日获悉,上海交通大学重庆人工智能研究院“兆言”大模型发布会日前在西部(重庆)科学城召开,会上发布了该研究院最新成果——“兆言”大模型产品(以下简称“兆言”大模型),这是重庆首个自主研发的大语言模型。
据了解,“兆言”大模型是上海交通大学重庆人工智能研究院基于其AI大模型技术研发出的最新成果。它通过积累海量数据,运用独特的数据处理和AI训练技术,达到了精准、专业的文本输出,实现了以自然语言选择、调用应用程序。
“和通用大模型相比,‘兆言’大模型拥有领域精调效率高、训练推理成本低、人机交互能力强的特点。”上海交通大学重庆人工智能研究院院长、首席科学家金石介绍,通用大模型在行业落地方面面临许多困难。比如,未经行业精调的通用大模型在行业应用中表现不佳、通用大模型需要的算力资源不易进行私有化部署、自然语言转应用程序接口调用不稳定等。
“兆言”大模型较好地解决了这些问题。该模型采用启发式数据过滤及增强、模型预训练和精调自适应比例混合、人工和自动评测相结合等方法对模型进行垂直领域精调,解决了精调中的数据质量差、模型训练效率低等行业难题,使模型答案质量有了较好保障。
在研发过程中,研究团队把该模型的小型化部署作为研发重点,大幅降低了模型训练和推理成本。在商业化所需特定任务上,该模型在不降低回答质量的前提下,调用成本仅为小型化前的四百分之一,从而保障了以该模型为基础的产品在市场上的竞争力。
为解决在自然语言转API调用任务上模型发挥不稳定的问题,研发团队还建立了专有的自然语言调用语料和指令数据集,从而实现了大语言模型对其他系统的精准调用。
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
- 宏碁海外推出IconiaTabM10平板电脑:联发科MT8183芯片,1
- 第二架C919国产大飞机今日“入列”,将与首架机搭档执飞沪蓉快线
- 山鹰国际:23H1业绩预告“困境反转”盈利改善,后半年旺季弹性可期
- 努比亚Z50SPro手机外观公布:小牛皮玻璃圆盘相机,骁龙8Gen2领先
- 赛力斯半年度业绩预告:归母净亏损13.9-12.5亿元,M5智驾版对现有
- 扩大就业的根本之策是促进经济回升向好
- 机械师曙光16Air全能本开卖:R77840H+2.5K120Hz屏,4
- 出资人门槛大幅提高!汽车金融公司管理办法发布
- 疯狂的三伏贴:入伏首日有医院接诊超1万人,电商平台爆款月销6万+
- 消息称比亚迪计划在印度生产电动汽车和电池投资额达10亿美元