「天工2.0」MoE大模型發(fā)布
北京時(shí)間2月6日,昆侖萬(wàn)維正式發(fā)布新版MoE大語(yǔ)言模型「天工2.0」與新版「天工AI智能助手」APP,這是國(guó)內(nèi)首個(gè)搭載MoE架構(gòu)并面向全體C端用戶免費(fèi)開(kāi)放的千億級(jí)參數(shù)大語(yǔ)言模型AI應(yīng)用。用戶即日起可在各手機(jī)應(yīng)用市場(chǎng)下載「天工AI智能助手」APP,體驗(yàn)昆侖萬(wàn)維「天工2.0」MoE大模型的卓越性能。
「天工2.0」是昆侖萬(wàn)維自去年4月發(fā)布雙千億級(jí)大語(yǔ)言模型「天工」以來(lái)的最大規(guī)模版本升級(jí),其采用業(yè)內(nèi)頂尖的MoE專家混合模型架構(gòu),應(yīng)對(duì)復(fù)雜任務(wù)能力更強(qiáng)、模型響應(yīng)速度更快、訓(xùn)練及推理效率更高、可擴(kuò)展性更強(qiáng)。
此次更新全面升級(jí)了AI搜索、對(duì)話、閱讀、創(chuàng)作的回答質(zhì)量與響應(yīng)速度,搭載強(qiáng)大的多模態(tài)能力,支持圖文對(duì)話、文生圖等多模態(tài)應(yīng)用,支持最高100K的超長(zhǎng)上下文窗口(超過(guò)15萬(wàn)個(gè)漢字),并新增了AI繪畫(huà)、數(shù)據(jù)分析、AI伴侶、AI算命、熱梗百科等多項(xiàng)新興玩法,讓AI更聰明、更實(shí)用、更有趣,成為每個(gè)人日常生活中的全能AI小助手。
昆侖萬(wàn)維致力于人工智能模型算法的創(chuàng)新與開(kāi)拓,不斷探索通用人工智能技術(shù)前沿。除了雙千億級(jí)大語(yǔ)言模型「天工」、MoE專家混合大模型「天工2.0」外,昆侖萬(wàn)維還圍繞「天工」系列大模型,推出了百億級(jí)開(kāi)源大語(yǔ)言模型系列「天工Skywork-13B」、AI Agent開(kāi)發(fā)平臺(tái)「天工SkyAgents」、多模態(tài)大語(yǔ)言模型「天工Skywork-MM」等前沿AI產(chǎn)品,并已逐步構(gòu)建起AI大模型、AI搜索、AI音樂(lè)、AI Story、AI游戲等AI業(yè)務(wù)矩陣,是國(guó)內(nèi)模型技術(shù)與工程能力最強(qiáng)、布局最全面的人工智能大模型企業(yè)之一。
MoE:全球頂尖的大模型核心技術(shù)路徑
MoE(Mixture-of-Experts,專家混合模型)是當(dāng)前大語(yǔ)言模型賽道技術(shù)最頂尖、研發(fā)最前沿的底層架構(gòu),是全球最領(lǐng)先的大模型核心技術(shù)路徑之一。
自2023年6月以來(lái),昆侖萬(wàn)維不斷針對(duì)MoE架構(gòu)技術(shù)最前沿進(jìn)行研發(fā)探索,并成功發(fā)布國(guó)內(nèi)首個(gè)搭載MoE架構(gòu)并面向全體C端用戶免費(fèi)開(kāi)放的千億級(jí)參數(shù)大語(yǔ)言模型AI應(yīng)用——「天工AI智能助手」APP。
「天工AI智能助手」以昆侖萬(wàn)維「天工2.0」MoE大模型為核心技術(shù)引擎,其技術(shù)原理是將復(fù)雜的大模型任務(wù)拆解為多個(gè)更小、更細(xì)分的子任務(wù),每個(gè)子任務(wù)都由垂直領(lǐng)域的專家模型處理,從而使得昆侖萬(wàn)維「天工2.0」不僅大幅提高了模型訓(xùn)練與推理的性能和效率,更能實(shí)現(xiàn)多個(gè)垂直領(lǐng)域的知識(shí)融合,使模型能夠更好地理解和處理不同應(yīng)用場(chǎng)景下的復(fù)雜問(wèn)題,為用戶提供更準(zhǔn)確、更全面的回答方案。
同時(shí),昆侖萬(wàn)維技術(shù)團(tuán)隊(duì)更是通過(guò)一系列針對(duì)性的MoE技術(shù)攻關(guān),在投入大量研發(fā)訓(xùn)練資源后,最終解決了困擾整個(gè)MoE產(chǎn)業(yè)的模型不收斂、特定任務(wù)泛化效果較差等核心性能問(wèn)題,使「天工2.0」的模型性能得到顯著提升。
模型性能更強(qiáng)、速度更快、架構(gòu)更靈活
「天工2.0」的技術(shù)領(lǐng)先性體現(xiàn)在其核心MoE架構(gòu)的卓越優(yōu)勢(shì)。MoE架構(gòu)主要由門(mén)控模型/路由器(Gating Model/Router)和一組專家模型(Experts Models)構(gòu)成,當(dāng)數(shù)據(jù)輸入門(mén)控模型/路由器時(shí),系統(tǒng)會(huì)根據(jù)任務(wù)類(lèi)型將每個(gè)token分配給一個(gè)或多個(gè)專家模型,使得每個(gè)專家模型可以專注于處理該部分?jǐn)?shù)據(jù),從而獲得模型性能的整體提升。
較之傳統(tǒng)大模型架構(gòu),「天工2.0」具有以下優(yōu)勢(shì):
1. 應(yīng)對(duì)復(fù)雜任務(wù)能力更強(qiáng):「天工2.0」MoE模型集成了多個(gè)專家模型,每個(gè)專家模型都能針對(duì)不同的數(shù)據(jù)分布和構(gòu)建模式進(jìn)行搭建,從而顯著提升大模型在各個(gè)細(xì)分領(lǐng)域的專業(yè)能力,整體模型通過(guò)整合各自專家模型的輸出結(jié)果,使得「天工2.0」在處理復(fù)雜任務(wù)、多模態(tài)任務(wù)時(shí)擁有顯著性能提升。
2. 速度更快、效率更高:由于MoE模型推理計(jì)算過(guò)程中只有少數(shù)特定專家模型被激活,相較于同等參數(shù)規(guī)模的稠密模型,「天工2.0」MoE模型呈現(xiàn)出極高的稀疏性,使其擁有更高的推理計(jì)算效率,從而讓用戶獲得更快的AI響應(yīng)速度。
3. 靈活、多樣、可擴(kuò)展性更強(qiáng):一方面,模型稀疏性使得「天工2.0」能夠在不增加計(jì)算量的前提下顯著擴(kuò)張模型規(guī)模,在同等計(jì)算資源下獲得更強(qiáng)的模型性能;另一方面,通過(guò)增加專家模型數(shù)量、調(diào)整專家模型的權(quán)重配比,「天工2.0」能夠極大豐富模型的可擴(kuò)展性,構(gòu)建更為靈活、多樣、可擴(kuò)展性更強(qiáng)的新時(shí)代大模型。
「天工AI智能助手」APP全面升級(jí)
「天工AI智能助手」APP基于昆侖萬(wàn)維自研「天工」系列大模型打造,是一款能搜、能聊、能寫(xiě)、能畫(huà)的AI智能助手,其擁有強(qiáng)大的自然語(yǔ)言處理和智能交互能力,能夠?qū)崿F(xiàn)個(gè)性化AI搜索、智能問(wèn)答、AI繪畫(huà)、聊天互動(dòng)、文本生成、編寫(xiě)代碼、語(yǔ)言翻譯等多種應(yīng)用場(chǎng)景,并且具有豐富的知識(shí)儲(chǔ)備。
伴隨著「天工2.0」大模型的重磅升級(jí),「天工AI智能助手」也迎來(lái)了版本的全面更新。
1. 強(qiáng)大的多模態(tài)能力:「天工AI智能助手」所采用的多模態(tài)大模型基于一體化的開(kāi)發(fā)策略,在底座模型的基礎(chǔ)上進(jìn)行深入開(kāi)發(fā)與優(yōu)化,引入多分辨率的視覺(jué)編碼器和強(qiáng)大的語(yǔ)言基座模型,使其能夠支持任意尺寸的圖片輸入和復(fù)雜的用戶指令。
在強(qiáng)大的多模態(tài)大模型能力加持下,新版「天工AI智能助手」具備優(yōu)秀的視覺(jué)理解、推理和指令遵循能力,能夠滿足圖文對(duì)話、圖文創(chuàng)作、知識(shí)問(wèn)答等多種用戶需求。同時(shí),得益于模型杰出的理解能力,新版「天工AI智能助手」生成的圖像在內(nèi)容豐富度、精細(xì)度和圖像質(zhì)量上均表現(xiàn)卓越。
與此同時(shí),在強(qiáng)大的多模態(tài)能力加持下,「天工AI智能助手」還能生成圖文并茂的答案內(nèi)容,讓用戶問(wèn)出“螺螄粉怎么做?”“怎么用吉他彈《稻香》?”“2024春節(jié)放假安排?”這類(lèi)問(wèn)題時(shí)能夠得到圖像/視頻輔助呈現(xiàn),使得AI回答的結(jié)果更直觀,內(nèi)容更豐富。
2. 支持100K超長(zhǎng)上下文窗口:「天工AI智能助手」的超長(zhǎng)上下文窗口技術(shù)基于100K原生文本進(jìn)行訓(xùn)練,能夠支持最高100K(超過(guò)15萬(wàn)漢字)的文本對(duì)話,并能夠通過(guò)擴(kuò)展技術(shù)可以支持200K超長(zhǎng)文檔理解。在InfiniteBench評(píng)測(cè)中,「天工」系列大模型多項(xiàng)指標(biāo)全球第一,10項(xiàng)指標(biāo)平均分47.5分,超過(guò)Claude2,接近GPT4-128k的52.6分。
在針對(duì)超長(zhǎng)上下文模型的“大海撈針”測(cè)試中,研究人員會(huì)在海量的文檔集里面插入特定信息,然后對(duì)文檔集進(jìn)行提問(wèn),期待模型能從“茫茫文海”中找出正確的關(guān)鍵信息,以驗(yàn)證模型的長(zhǎng)上下信息提取能力。在“大海撈針”測(cè)試中,「天工」模型取得了100%正確結(jié)果。
3. 搜得更準(zhǔn)、寫(xiě)得更好、讀得更快:新版「天工AI智能助手」擁有更強(qiáng)大的關(guān)鍵詞與語(yǔ)義分析能力更精準(zhǔn)識(shí)別用戶任務(wù)需求,在AI搜索、對(duì)話、閱讀、創(chuàng)作等不同應(yīng)用場(chǎng)景中,都能針對(duì)用戶的不同需求提供更準(zhǔn)確、更具體的回答與追問(wèn)建議。同時(shí),新版「天工AI智能助手」AI搜索質(zhì)量、安全能力、答案豐富程度都進(jìn)一步提高。
例如,在「天工AI智能助手」中,用戶可使用“AI閱讀”功能快速提煉總結(jié)文獻(xiàn)內(nèi)容,并針對(duì)文獻(xiàn)內(nèi)容細(xì)節(jié)進(jìn)行追問(wèn),得到快速、準(zhǔn)確、具體的答案內(nèi)容。
4. 豐富有趣的AI Agent:新版「天工AI智能助手」新增了如AI繪畫(huà)、數(shù)據(jù)分析、AI伴侶、AI算命、熱梗百科等多款官方AI Agent,讓「天工AI智能助手」在能搜、能聊、能寫(xiě)之余,新增更多有趣而實(shí)用新興玩法,不斷探索AIGC技術(shù)的應(yīng)用邊界,成為每個(gè)人日常生活中必不可少的全能AI小助手。
從2月8日開(kāi)始,由昆侖萬(wàn)維主辦的“巧繪龍年”AI繪畫(huà)大賽也將在「天工AI智能助手」APP內(nèi)開(kāi)啟,用戶使用APP內(nèi)“AI繪畫(huà)”功能繪制圖畫(huà)作品并投稿至活動(dòng)專區(qū),即可有機(jī)會(huì)獲得最高10萬(wàn)元人民幣的現(xiàn)金大獎(jiǎng)。
這是國(guó)內(nèi)首個(gè)面向全體C端用戶免費(fèi)開(kāi)放、獎(jiǎng)金規(guī)模達(dá)到數(shù)十萬(wàn)量級(jí)的AI繪畫(huà)大賽。得益于「天工」系列大模型卓越的多模態(tài)技術(shù)能力,高水準(zhǔn)的文字意圖識(shí)別確保用戶能夠盡情發(fā)揮創(chuàng)意,繪制出內(nèi)容豐富、細(xì)節(jié)精致、審美高級(jí)的個(gè)性化AIGC圖像。
一直以來(lái),昆侖萬(wàn)維始終秉承著“實(shí)現(xiàn)通用人工智能,讓每個(gè)人更好地塑造和表達(dá)自我”的公司使命,不斷降低大模型技術(shù)在各行各業(yè)的應(yīng)用和學(xué)習(xí)門(mén)檻,攜手探索未知世界、共創(chuàng)科技未來(lái)。
免責(zé)聲明:市場(chǎng)有風(fēng)險(xiǎn),選擇需謹(jǐn)慎!此文僅供參考,不作買(mǎi)賣(mài)依據(jù)。
關(guān)鍵詞:
責(zé)任編輯:孫知兵
免責(zé)聲明:本文僅代表作者個(gè)人觀點(diǎn),與太平洋財(cái)富網(wǎng)無(wú)關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí),對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾,請(qǐng)讀者僅作參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。
如有問(wèn)題,請(qǐng)聯(lián)系我們!
- 「天工2.0」MoE大模型發(fā)布2024-02-06
- 第十屆“中國(guó)老博會(huì)CISSE 2024”5月在京舉2024-02-06
- 中閔泰國(guó)海外投資集團(tuán)曼谷發(fā)布會(huì),開(kāi)啟全球2024-02-06
- 三年累計(jì)賠付近50萬(wàn)件 滬惠保守“滬”在身邊2024-02-06
- 以出行帶動(dòng)共享,一嗨租車(chē)賦能文旅產(chǎn)業(yè),引2024-02-05
- 年金險(xiǎn)現(xiàn)象級(jí)產(chǎn)品-福滿滿3號(hào)持續(xù)引領(lǐng)養(yǎng)老年2024-02-05
- “好客山東 好品山東”牡丹主題推介會(huì)在廣2024-02-05
- 淘寶春節(jié)不打烊!“淘寶式過(guò)年”成年輕人過(guò)2024-02-05
- 華英證券筑牢文化根基,引領(lǐng)企業(yè)高質(zhì)量跨越2024-02-05
- 國(guó)有大型現(xiàn)代化企業(yè)「魯泰控股」攜手企企通2024-02-05
- 君盈資本入局銀發(fā)經(jīng)濟(jì)-常青藤老年大學(xué)2024-02-05
- 創(chuàng)業(yè)新平臺(tái),共享新紅利,GOLFZON PARK高2024-02-05
- 常青藤老年大學(xué):銀發(fā)經(jīng)濟(jì)的推動(dòng)者與創(chuàng)新力2024-02-05
- 從傳統(tǒng)到現(xiàn)代的轉(zhuǎn)型路徑-食品餐飲企業(yè)如何2024-02-05
- 看別人公司的春節(jié)福利,我簡(jiǎn)直太羨慕了!2024-02-05
- 牢筑反詐城墻 “維C行動(dòng)”再起航!平安普2024-02-05
- 昌聯(lián)保典:哪些人更適合香港保險(xiǎn)2024-02-05
- 價(jià)樂(lè)比,首創(chuàng)代理記賬月付模式!2024-02-05
- 駐華使節(jié)團(tuán)走進(jìn)郎酒莊園 沉浸式體驗(yàn)酒莊風(fēng)2024-02-05
- 坤元資產(chǎn)36家FOF伙伴齊聚“投資家網(wǎng)·20232024-02-05
- 京東發(fā)起“我給鄉(xiāng)村送年貨”活動(dòng) 美的為安2024-02-05
- 推動(dòng)民間資本繁榮,協(xié)通會(huì)為區(qū)域經(jīng)濟(jì)高質(zhì)量2024-02-05
- 喜報(bào)!珠江橋牌榮膺“中華老字號(hào)”稱號(hào)2024-02-05
- 與用戶牽手跨界,奇瑞星途汽車(chē)瑤光用戶共創(chuàng)2024-02-05
- 華為2022百萬(wàn)設(shè)計(jì)師獎(jiǎng)揭曉,視覺(jué)中國(guó)斬獲殊2024-02-05
- 第17屆亞洲金融論壇在香港召開(kāi),鄭翔玲發(fā)表2024-02-05
- 美的年貨節(jié):“新”思路啟幕“新”年,領(lǐng)年2024-02-05
- 批量安凱客車(chē)駛?cè)敫拭C,織密便捷出行“幸福2024-02-05
- 2024年律所管理系統(tǒng)優(yōu)選,Alpha系統(tǒng)律所管2024-02-05
- 威誠(chéng)國(guó)際與上影合作 服務(wù)場(chǎng)景擴(kuò)張未來(lái)發(fā)展2024-02-05
精彩推薦
- 8月末社會(huì)融資規(guī)模存量為368.61萬(wàn)億元,...
- 貸款平穩(wěn)增長(zhǎng),“組合拳”持續(xù)發(fā)力——8...
- Mysteel早讀:黑色期貨夜盤(pán)飄紅,寶武10...
- 招商蛇口更換掌舵人:“老將”蔣鐵峰升任...
- 搭檔超20年合伙人反目,董事長(zhǎng)把副董事長(zhǎng)...
- 中國(guó)探月工程首任首席科學(xué)家:下一步我...
- 好消息!奉賢4座口袋公園改造提升工程即...
- cf體驗(yàn)服資格是永久的嗎(cf體驗(yàn)版)
- 李家超昨日下午視察災(zāi)情,稱香港特區(qū)政...
- 存內(nèi)控獨(dú)立性不足等問(wèn)題,證監(jiān)會(huì)對(duì)華西...
- 美網(wǎng)決賽對(duì)陣出爐!2號(hào)種子拒絕爆冷,2-...
- 千里走單騎的內(nèi)容概括100字(千里走單騎...
- 洋錢(qián)罐借款怎么樣容易下款嗎?看看你就...
- Mysteel晚餐:唐山鋼坯下調(diào)40,高爐電爐...
- 9月8日:“農(nóng)產(chǎn)品批發(fā)價(jià)格200指數(shù)”比昨...
閱讀排行
-
第十屆“中國(guó)老博會(huì)CISSE 2024”5月在京舉辦 全面優(yōu)化創(chuàng)服務(wù),助力展商拓市場(chǎng)
上一篇2024-02-06 11:16:50