4月21日,由清華大學(xué)基礎(chǔ)模型研究中心聯(lián)合中關(guān)村實(shí)驗(yàn)室研制的SuperBench大模型綜合能力評(píng)測(cè)框架,正式對(duì)外發(fā)布2024年3月版《SuperBench大模型綜合能力評(píng)測(cè)報(bào)告》,結(jié)果顯示:文心一言4.0表現(xiàn)亮眼,與國(guó)際一流模型水平接近,且差距已經(jīng)逐漸縮小。
在人類對(duì)齊能力評(píng)測(cè)中,文心一言4.0位居國(guó)內(nèi)第一;中文理解上,文心一言4.0領(lǐng)先第二名GLM-4 0.41分,GPT-4系列模型表現(xiàn)較差,和文心一言4.0分差超過1分。
在語義理解中的數(shù)學(xué)能力上,文心一言4.0與Claude-3并列全球第一; GPT-4系列模型位列第四五,其他模型得分在55分附近較為集中;在語義理解中的閱讀理解能力上,文心一言4.0超過GPT-4 Turbo、Claude-3以及GLM-4拿下榜首。
在安全性評(píng)測(cè)上,國(guó)內(nèi)模型文心一言4.0拿下最高分(89.1分),Claude-3僅列第四。
據(jù)悉,自文心一言首發(fā)至今,用戶數(shù)已突破2億。