首页 > 互联网 > 正文

度小满开源国内首个千亿参数金融大模型“轩辕”

新浪科技讯 5月26日午间消息,近日,度小满正式开源国内首个千亿级中文金融大模型——“轩辕”。轩辕大模型是在1760亿参数的Bloom大模型基础上训练而来,在金融名词理解、金融市场评论、金融数据分析和金融新闻理解等任务上,效果相较于通用大模型大幅提升。

BLOOM(Big Science Language Open-science Open-access Multilingual)是2021年由 1000多名志愿研究人员在一个名为“大科学 BigScience”的项目中创建,2022年 7月 12日正式发布。BLOOM拥有 1760亿个参数(决定输入数据如何转换为输出内容的变量),稍多于拥有 1750亿个参数的 GPT-3。BLOOM拥有1.61TB文本,包含46种自然语言和13种编程语言。相比Meta发布的130亿参数的LLaMA(Large Language Model Meta AI)模型,Bloom参数量更占优势。

目前,千亿级的轩辕模型已可以在Huggingface中申请下载,面向所有金融机构开放。

度小满CTO许冬亮表示,轩辕大模型是经度小满业务场景中积累的金融数据训练而来的,对金融相关问题的理解比通用大模型更有优势。我们把大模型能力开放给金融机构,有利于推动大模型在金融行业的应用,降低大模型的应用门槛,提升金融行业智能化水平。

相关阅读:
2023年第二十届ChinaJoy新闻发布会在沪召开,展会十大亮点全面解读! 恋情曝光四年后,亚马逊创始人贝索斯据称与前新闻主播订婚