人工智能驅動的神經技術發(fā)展如此之迅猛，聯合國組織也在醞釀對其進行全球監(jiān)管。
13日，聯合國教科文組織（UNESCO）舉辦國際會議探索神經技術在解決難治性神經系統和精神障礙問題上的巨大潛力，并將開始制定針對神經技術的“通用道德框架”。
負責撰寫UNESCO《神經技術倫理問題報告》的主要作者斯奎恰里尼（Mariagrazia Squicciarini）表示：“當你添加AI時，你就給神經技術注入了類固醇�！�
神經技術，包括用于診斷和治療大腦相關疾病的植入物，正在開始改善殘疾人的生活，但對基于人工智能（AI）程序的投資增加，這些程序可以讀取人們的思想并存儲神經數據，這引起了人們對其使用的擔憂。
為全球倫理框架奠定基礎
神經技術可以幫助人類解決許多健康問題，但它也可能觸及并操控大腦結構，生成與我們的身份、情感相關的信息。聯合國方面認為，急需在全球層面為神經技術行業(yè)建立共同的倫理框架，此前UNESCO已經在人工智能領域完成了這一任務。
據悉，在13日舉行的UNESCO國際會議上，各方將探索神經技術在解決難治性神經系統和精神障礙問題上的巨大潛力及其威脅。
該會議的最終目標是促進更好地理解與神經技術治理相關的倫理問題，為制定倫理框架做準備。該框架將由UNESCO的會員國審議并投票表決。有關程序將遵循類似于UNESCO為人類基因組（1997年）、人類基因數據（2003年）和AI（2021年）建立全球倫理框架的方法。
UNESCO認為，生成式AI有關最新發(fā)展，以及AI技術的普及和其對人類、民主和就業(yè)構成的風險，這些都證實了其制定的AI倫理全球標準的有效性和及時性。神經數據和AI的融合將帶來更為嚴峻的挑戰(zhàn)。
歐洲工商管理學院（INSAED）的決策科學和技術管理教授埃夫根尼奧（Theos Evgeniou）對第一財經記者解釋道，生成性AI涉及人類語言和人類身份。而人類語言是幫助我們定義“我們是誰”和“我們做什么”的重要部分。因此，如果技術可以模仿那些能夠定義人類身份認同的東西，就帶來了新潛在風險和新可能性。
“譬如像ChatGPT這樣的生成性AI技術是所謂‘根基模型’（foundation models）。人們可以在這種模型的基礎上開發(fā)大量產品，并能夠進行微調。換言之，它們不是單純的產品，而是核心技術，是人們可以開發(fā)的產品之核心所在。這種核心技術本身已經非常強大，我們甚至無法預測人們將依靠它們開發(fā)出什么。我們也從未仔細考慮過如何管控和規(guī)范根基模型。這是一種新概念�！彼忉尩馈�
神經技術更是如此。神經技術涵蓋任何用于“訪問、監(jiān)測、調查、評估、操縱和/或模擬動物或人類神經系統的結構和功能”的設備和程序。神經技術設備包括“可穿戴設備”，如智能手表和手環(huán)，以及非侵入式腦機接口，如機械肢體，及目前正在開發(fā)的用于治療癱瘓等殘障的腦植入物。
根據UNESCO給出的數據，全球每8人中就有1人患有精神或神經障礙，相關治療費用占到發(fā)達國家總醫(yī)療支出的三分之一，在中低收入國家也成為日益沉重的負擔。
世衛(wèi)組織的數據則顯示，到2050年，60歲以上人口預計將翻番，達到21億，上述支出亦將持續(xù)增長。神經技術有降低癲癇、阿爾茨海默病、帕金森病和中風等神經系統障礙導致的死亡和殘障的巨大潛力。
UNESCO認為，然而，如果沒有倫理護欄，這些技術可能會帶來嚴重風險，因為大腦信息可以被訪問和操縱，威脅到基本權利和自由，而這些是人類身份、思想自由、隱私、記憶等概念的核心。
加劇全球不平等并產生新的不平等風險
UNESCO的數據顯示，目前，50%的神經技術公司位于美國，35%位于歐洲和英國。由于神經技術可能引領新一代的“超級人類”，這將進一步擴大國家之間在教育、技能和財富方面的差距，使擁有最先進技術的人獲得不公平的優(yōu)勢。
根據其研究人員估計，自2010年以來的10年間，對Onward Medical和馬斯克的 Neuralink等神經科技公司的私人投資增加了二十多倍，到2020年達到73億美元。到2027年，神經科技設備市場預計將超過240億美元。
神經科學論文數量從2011年的57899篇增加到2021年的94456篇，而全球與神經技術相關的專利從2010年的418項增加到2020年的1531項。
紐約哥倫比亞大學神經技術中心主任尤斯特（Rafael Yuste）是一位領先的神經生物學家，也是“保護精神隱私”國際監(jiān)管的倡導者。
他表示，在去年發(fā)表的四項研究中，并非所有研究都經過同行評審，“研究人員使用不需要神經外科手術插入的非侵入性設備，解碼了人類志愿者大腦中的語音和圖像”。
“所有四項研究都采用了先進的人工智能模型來解碼大腦數據，”尤斯特說，“新算法將使人們能夠解碼高度敏感的信息，這使得保護心理隱私變得更加緊迫�！�
他補充說，監(jiān)管是必要的，因為“美國和加拿大的神經科技公司幾乎無一例外地在其消費者用戶協議中完全擁有客戶神經數據”。
“我們需要保護精神財產——否則公司將開始儲存大腦數據。他們今天可能無法解碼它，但人工智能明天將使他們能夠解碼它�！彼硎�。
尤斯特自己的實驗室已經解碼并操縱了小鼠視覺皮層的神經處理，以便研究人員能夠“植入幻覺”——讓它們看到他們實際上沒有看到的東西。
斯奎恰里尼表示：“我們并不反對神經技術或要求暫停研究，因為它具有減少神經系統疾病造成的死亡和殘疾的巨大潛力。但我們需要一種全球協調的神經技術監(jiān)管方法，不僅在醫(yī)學領域，而且在消費市場�！�
要看到的是，神經數據，即捕捉個體反應和基本情緒的數據，在消費市場上需求旺盛。與社交媒體平臺收集的數據不同，大部分神經數據是在無意識狀態(tài)下生成，因此無法許可其使用。如果敏感數據被提取，然后落入壞人之手，個體將承受其有害后果。
UNESCO并表示，在兒童或青少年仍處于神經發(fā)育重要階段時植入腦機接口可能會干擾大腦的“正�！卑l(fā)育。它可能會改變年輕人的思維，影響人格塑造，并產生長期甚至永久的影響。
