近日,中科金財(cái)與海光信息技術(shù)股份有限公司(以下簡(jiǎn)稱“海光”)聯(lián)合推出軟硬一體解決方案,通過(guò)融合自研的多場(chǎng)景多基座大模型引擎與海光DCU系列加速卡,打造了高效、安全、低成本的AI技術(shù)底座,并完成與DeepSeek模型的深度適配。
中科金財(cái)始終致力于保持技術(shù)領(lǐng)先性和業(yè)務(wù)前瞻性,通過(guò)建立完善的模型評(píng)測(cè)體系,定期對(duì)國(guó)內(nèi)外前沿大模型進(jìn)行評(píng)測(cè),選擇性能優(yōu)異的模型接入自主研發(fā)的多場(chǎng)景多基座大模型引擎。并測(cè)試不同模型在不同芯片上的表現(xiàn)效果,進(jìn)行算力調(diào)優(yōu)及適配,通過(guò)基礎(chǔ)設(shè)施優(yōu)化、底層算子優(yōu)化、訓(xùn)練及推理階段優(yōu)化,為客戶提供滿足業(yè)務(wù)需求的低成本、高性能算力解決方案。模型評(píng)測(cè)、選用、調(diào)優(yōu)、適配等工作為中科金財(cái)在算法、算力及數(shù)據(jù)處理方面積累了核心能力,基于這些技術(shù)沉淀,以及在金融、電商、微短劇等行業(yè)的數(shù)據(jù)積累,中科金財(cái)聯(lián)合產(chǎn)業(yè)鏈上下游共同探索安全高效的解決方案,推動(dòng)AI技術(shù)在行業(yè)的規(guī)模化落地。
自2024年6月起,中科金財(cái)開(kāi)始對(duì)DeepSeek系列模型進(jìn)行評(píng)測(cè),并接入多場(chǎng)景多基座大模型引擎。此次中科金財(cái)與海光聯(lián)合,推出集合多場(chǎng)景多基座大模型引擎、海光DCU系列加速卡的軟硬一體解決方案,深度適配DeepSeek模型,可應(yīng)用于報(bào)告生成、文檔審核、客服輔助、知識(shí)庫(kù)問(wèn)答、智能風(fēng)控、智能投顧等多個(gè)典型業(yè)務(wù)場(chǎng)景。
在軟件方面,基于多場(chǎng)景多基座大模型引擎,可根據(jù)行業(yè)需求和場(chǎng)景需求自動(dòng)路由調(diào)度對(duì)應(yīng)能力最優(yōu)的大模型。該設(shè)計(jì)不僅提高了資源利用效率,還增強(qiáng)了模型的可擴(kuò)展性和靈活性,支持模塊化設(shè)計(jì),允許客戶根據(jù)業(yè)務(wù)需求變化靈活添加或修改,應(yīng)對(duì)多元化和復(fù)雜化的業(yè)務(wù)場(chǎng)景。以報(bào)告生成為例,利用大模型引擎以及對(duì)DeepSeek模型強(qiáng)大數(shù)據(jù)處理和邏輯推理能力的集成,能夠?qū)Ω黝悢?shù)據(jù)實(shí)施全面且深入的分析,涵蓋數(shù)據(jù)收集的準(zhǔn)確性驗(yàn)證、數(shù)據(jù)分析的精確性審核以及報(bào)告結(jié)果的全面評(píng)估等多個(gè)維度。在觀點(diǎn)發(fā)現(xiàn)、數(shù)據(jù)和知識(shí)提取、信息搜索與驗(yàn)證等環(huán)節(jié)發(fā)揮信息處理優(yōu)勢(shì),通過(guò)替代重復(fù)性勞動(dòng),為客戶降本增效。
在硬件方面,海光DCU系列采用了GPGPU通用加速計(jì)算架構(gòu),可兼容主流Al生態(tài)。適配工作包括驅(qū)動(dòng)程序優(yōu)化、內(nèi)存管理優(yōu)化、計(jì)算資源調(diào)度優(yōu)化等,以實(shí)現(xiàn)硬件資源的最大化利用。在適配過(guò)程中,通過(guò)引入多層次的安全機(jī)制和穩(wěn)定性測(cè)試,為用戶帶來(lái)高效、穩(wěn)定、安全的AI算力管理和調(diào)度支持,進(jìn)一步降低算力成本。同時(shí)驗(yàn)證了國(guó)產(chǎn)算力底座支撐前沿AI模型的技術(shù)能力,為行業(yè)客戶的智能化轉(zhuǎn)型提供了自主可控的技術(shù)選項(xiàng)。
中科金財(cái)始終致力于通過(guò)技術(shù)創(chuàng)新與生態(tài)合作,為客戶提供高效、穩(wěn)定、安全、低成本的AI解決方案,助力行業(yè)實(shí)現(xiàn)智能化轉(zhuǎn)型與業(yè)務(wù)升級(jí)。未來(lái),中科金財(cái)將繼續(xù)緊跟行業(yè)前沿,圍繞客戶需求持續(xù)創(chuàng)新,深化產(chǎn)業(yè)鏈合作,共建開(kāi)放協(xié)同的AI生態(tài),為客戶創(chuàng)造更大的業(yè)務(wù)價(jià)值。