人工智能領(lǐng)域最具影響力的四家公司將聯(lián)手成立行業(yè)機(jī)構(gòu)，負(fù)責(zé)監(jiān)督該領(lǐng)域最先進(jìn)模型的安全開(kāi)發(fā)。
據(jù)英國(guó)《衛(wèi)報(bào)》7月26日?qǐng)?bào)道，谷歌、微軟、OpenAI及Anthropic將組建“前沿模型論壇”（The Frontier Model Forum），該行業(yè)組織將專(zhuān)注于“安全、負(fù)責(zé)任地”開(kāi)發(fā)人工智能前沿模型。
報(bào)道稱(chēng)，“前沿模型”是指能力超過(guò)最先進(jìn)的現(xiàn)有模型、能夠執(zhí)行各種任務(wù)的人工智能模型。所有開(kāi)發(fā)前沿模型的組織均有資格成為“前沿模型論壇”成員。
微軟總裁布拉德・史密斯（Brad Smith）表示：“開(kāi)發(fā)人工智能技術(shù)的公司有責(zé)任確保其安全性及可靠性，并使其始終處于人類(lèi)控制之下。這一倡議希望將科技界團(tuán)結(jié)起來(lái)，負(fù)責(zé)任地推進(jìn)人工智能發(fā)展并應(yīng)對(duì)挑戰(zhàn)，從而造福全人類(lèi)。”
“前沿模型論壇”成員表示，其主要目標(biāo)是推進(jìn)人工智能安全方面的相關(guān)研究，如制定評(píng)估人工智能模型的標(biāo)準(zhǔn)、與政治家和學(xué)者探討人工智能的安全風(fēng)險(xiǎn)、幫助探索人工智能在氣候問(wèn)題及癌癥檢測(cè)等多領(lǐng)域的積極作用等。
在AI四巨頭成立行業(yè)機(jī)構(gòu)的同時(shí)，推進(jìn)人工智能技術(shù)監(jiān)管工作的步伐也在加快。7月21日，“前沿模型論壇”成員及其他多家科技公司在白宮與美國(guó)總統(tǒng)拜登會(huì)面后，同意采取新的人工智能保障措施。據(jù)悉，科技公司將允許獨(dú)立專(zhuān)家測(cè)試人工智能模型，同時(shí)還將為人工智能內(nèi)容添加水印，幫助人們更好地辨別通過(guò)深度偽造等技術(shù)形成的誤導(dǎo)性?xún)?nèi)容。
《衛(wèi)報(bào)》報(bào)道稱(chēng)，白宮及科技公司的上述承諾遭到了一些活動(dòng)人士的質(zhì)疑。他們認(rèn)為，科技行業(yè)“有不遵守此類(lèi)承諾的歷史”。
英國(guó)薩里大學(xué)人工智能研究所博士安德魯·羅戈斯基（Andrew Rogoyski）警告稱(chēng)，對(duì)人工智能的監(jiān)管不應(yīng)完全由科技公司主導(dǎo)。
“我非常擔(dān)心政府已經(jīng)將人工智能領(lǐng)域的主導(dǎo)權(quán)拱手讓給了私營(yíng)部門(mén)，這很可能造成無(wú)法挽回的后果。人工智能是一項(xiàng)潛力巨大的技術(shù)，該技術(shù)的監(jiān)管者應(yīng)當(dāng)能夠代表未來(lái)將受到該技術(shù)影響的人、經(jīng)濟(jì)與社會(huì)，給出獨(dú)立的判斷與見(jiàn)解�！�
