記者從度小滿獲悉,近日,度小滿正式開源國內首個千億級中文金融大模型——“軒轅”。
據介紹,軒轅大模型是在1760億參數的Bloom大模型基礎上訓練而來,在金融名詞理解、金融市場評論、金融數據分析和金融新聞理解等任務上,效果相較于通用大模型大幅提升,表現出明顯的金融領域優勢。在金融場景中的任務評測中,軒轅全面超越了市場上的主流開源大模型,贏得了150次回答中63.33%的勝率,充分凸顯了其在金融領域的顯著優勢。在通用能力評測中,軒轅有10.2%的任務表現超越ChatGPT 3.5,61.22%的任務表現與之持平,涉及數學計算、場景寫作、邏輯推理、文本摘要等13個主要維度。
為了提升軒轅大模型對金融領域問題的理解能力,度小滿將自身業務中積累的金融領域的千億tokens的中文預訓練數據集用來訓練模型。該數據集涵蓋了金融研報、股票、基金、銀行、保險等各個方向的專業知識。經過清洗和標注的高質量數據集,不僅在通用性方面與ChatGPT達到持平成為可能,且顯著提升了模型在金融垂直領域的性能。
目前,千億級的軒轅模型已可以在Huggingface中申請下載,面向所有金融機構開放。
“軒轅大模型是經度小滿業務場景中積累的金融數據訓練而來的,對金融相關問題的理解比通用大模型更有優勢。”度小滿CTO許冬亮說,我們把大模型能力開放給金融機構,有利于推動大模型在金融行業的應用,降低大模型的應用門檻,提升金融行業智能化水平。
對于軒轅大模型開源后,對金融機構的意義。許冬亮認為,生成式大模型在內容生成與創作、信息摘要與總結、知識理解與問答、自然交互與對話等方面具備非常出色的能力,在金融場景中會有廣泛的應用。
?
經濟參考報社版權所有 本站所有新聞內容未經經濟參考報協議授權,禁止轉載使用
新聞線索提供熱線:010-63074375 63072334 報社地址:北京市宣武門西大街57號
JJCKB.CN 京ICP備18039543號