鵬城實(shí)驗(yàn)室與百度聯(lián)合發(fā)布全球首個(gè)知識(shí)增強(qiáng)千億大模型

12月8日，鵬城實(shí)驗(yàn)室與百度聯(lián)合發(fā)布全球首個(gè)知識(shí)增強(qiáng)千億大模型——鵬城-百度·文心。

為什么大模型在產(chǎn)學(xué)界持續(xù)走熱，越來(lái)越多的技術(shù)公司入場(chǎng)?

如中國(guó)工程院院士、鵬程實(shí)驗(yàn)室主任高文所言，預(yù)訓(xùn)練模型賦能人工智能衍生更多的應(yīng)用，而不局限于某個(gè)領(lǐng)域，是人工智能自身發(fā)展并作用于社會(huì)及科學(xué)創(chuàng)新的重要工具。

當(dāng)人工智能的需求呈現(xiàn)出碎片化、多樣化的特點(diǎn)，人工智能模型卻存在很多挑戰(zhàn)，通用性低是首要問(wèn)題。也就是說(shuō)，A模型往往專(zhuān)用于特定A領(lǐng)域，應(yīng)用到B領(lǐng)域便差強(qiáng)人意。

百度首席技術(shù)官王海峰介紹，鵬城-百度·文心是全球首個(gè)知識(shí)增強(qiáng)千億大模型，參數(shù)規(guī)模達(dá)2600億。在機(jī)器閱讀理解、文本分類(lèi)、語(yǔ)義相似度計(jì)算等60多項(xiàng)任務(wù)上取得最好效果，并在30余項(xiàng)小樣本和零樣本任務(wù)上刷新基準(zhǔn)。

百度集團(tuán)副總裁、深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程實(shí)驗(yàn)室副主任吳甜說(shuō)：“60多項(xiàng)不同的任務(wù)，說(shuō)明大模型的通用性很強(qiáng)，30余項(xiàng)小樣本和零樣本任務(wù)刷新基準(zhǔn)，則意味著大模型泛化能力更強(qiáng)，對(duì)支撐各行各業(yè)非常重要。”

鵬城-百度·文心希望解決的是，傳統(tǒng)人工智能模型泛化性差、強(qiáng)依賴(lài)昂貴人工標(biāo)注數(shù)據(jù)、落地成本高等應(yīng)用問(wèn)題，希望成為千行百業(yè)人工智能開(kāi)發(fā)的首選基座大模型。

而鵬城實(shí)驗(yàn)室的算力系統(tǒng)“鵬城云腦Ⅱ”和飛槳深度學(xué)習(xí)平臺(tái)就是鵬城-百度·文心理想實(shí)現(xiàn)的關(guān)鍵支撐，解決了超大模型訓(xùn)練的多個(gè)公認(rèn)技術(shù)難題。

同日，百度產(chǎn)業(yè)級(jí)知識(shí)增強(qiáng)大模型“文心”全景圖首次亮相。

作為產(chǎn)業(yè)級(jí)知識(shí)增強(qiáng)大模型，百度文心大模型包含自然語(yǔ)言理解大模型、計(jì)算機(jī)視覺(jué)大模型和跨模態(tài)大模型，既指向基礎(chǔ)通用的，也面向重點(diǎn)領(lǐng)域和重點(diǎn)任務(wù)，還有豐富的工具與平臺(tái)。“知識(shí)增強(qiáng)”是它的核心特色。

知識(shí)是人類(lèi)智慧的結(jié)晶，是人類(lèi)進(jìn)步的重要推動(dòng)力。通過(guò)知識(shí)增強(qiáng)，計(jì)算機(jī)有了學(xué)習(xí)并運(yùn)用知識(shí)，像人一樣理解和認(rèn)知世界的可能。

吳甜強(qiáng)調(diào)：“我們希望人工智能系統(tǒng)通過(guò)對(duì)知識(shí)的學(xué)習(xí)，能夠提升學(xué)習(xí)效率，具有更好的可解釋性，更符合人對(duì)事物的理解。”

百度文心正通過(guò)百度飛槳平臺(tái)陸續(xù)對(duì)外開(kāi)源開(kāi)放，已大規(guī)模應(yīng)用于百度搜索、信息流、智能音箱等互聯(lián)網(wǎng)產(chǎn)品，并賦能工業(yè)、能源、金融、通信、媒體、教育等各行業(yè)。

關(guān)鍵詞： 鵬城 百度 知識(shí) 千億 大模型

責(zé)任編輯：Rex_08