新智元報道
編輯：桃子 Joey
【新智元導讀】Hiton對AI恐懼不是沒有道理。
現在，德克薩斯大學開發的一種類ChatGPT模型都能讀心了，準確率高達82%，網友驚呼精神隱私在哪？
神經網絡之父Geoffrey Hinton離職谷歌，直言對畢生工作感到後悔。
現在看來，他對AI的害怕，不是沒有道理。
因為，一種類ChatGPT模型已經學會了讀心術，準確率高達82%！
來自德克薩斯大學奧斯汀分校的研究者開發了一種基於GPT的語言解碼器。
它能通過非侵入性的MRI/fMRI收集大腦活動信息，並將思維轉化為語言文字。
論文地址：https://www.nature.com/articles/s41593-023-01304-9
令人震驚的是，當你在看皮克斯無聲電影時，大腦解碼器都能讀出你的想法。
這個類ChatGPT模型，以前所未有的準確率解碼人類思想，不僅開啟了大腦成像的新潛力，並引發了人們對隱私的擔憂。
研究一出，在網上掀起了軒然大波。
網友驚呼，太恐怖了。
我們離真正的思想警察更近了一步。
GPT讀心，準確率高達82%
那麼，這個恐怖的大腦解碼器是怎麼實現「讀心」的？
這裡，不得不提功能性磁共振成像《fMRI)技術，它能通過監測大腦皮層不同部位的血氧水平得到大腦的動態變化圖像。
因此隻需分析功能磁共振成像數據，就可以以非侵入性的方式，將參與者大腦中所想的故事甚至圖像用語言描述出來。
腦部活動就像是加密過的信號，而經過預訓練的大型語言模型提供了破譯的途徑。
在此，研究人員基於GPT-1訓練了一個神經網絡語言模型。
Alexander Huth讓3名受試者，連續聽16個小時的語音播客，並收集他們聆聽時的fMRI數據。
這些語言播客主要是一些脫口秀和TED的演講，比如紐約時報的Modern Love。
接下來研究人員借助大型語言模型將參與者的fMRI數據集翻譯成單詞和短語。
隨後測試參與者聽新錄音的腦部活動，通過觀察翻譯文本與參與者聽到的文本的接近程度，就可以知道解碼器到底準不準。
通過對比人聽到的語句《左》和解碼器根據大腦活動輸出的語句《右》可以發現，藍色和紫色部分占絕大多數，藍色代表完全一致，紫色代表大意準確。
雖然幾乎每個單詞都不是一一對應，但是整個句子的意義被保留了下來，也就是解碼器在給大腦信號「釋義」。
比如最後一句，受試者聽到的是「我還沒拿到駕照」，而解碼器給出的回答是「她還沒準備好開始學車」。
正如研究者所稱，人工智能無法將思想轉化確切詞匯或句子，而是改寫。
隨後，受試者被要求安靜地在腦中構思一個故事，然後大聲復述出來，來看看復述版本和解碼器翻譯版的差別。
可以看到，意義的重合度還是很高的。
最後，受試者觀看了一段動畫電影，這段電影沒有任何聲音，但通過分析他們的大腦活動，解碼器可以了解他們正在觀看的內容的概要。
實驗結果發現，GPT模型從感知語音、想象語音、甚至無聲視頻中生成可理解的單詞序列，其準確性令人驚嘆。
具體準確率如下：
感知語音《受試者聽錄音》 : 72-82%
想象語言《受試者在內心講述一個一分鐘的故事》 : 41-74%
無聲電影《受試者觀看皮克斯無聲電影剪輯》: 21-45%
麻省理工大學的神經科學家Greta Tuckute說，語言感知是一個外部驅動的過程，而想象力是一個活躍的內部過程，通過大型語言模型可以將內在的腦部活動展示在我們眼前。
我們現在是否能從大腦讀取信息？是的，某種程度上可以。
有朝一日，這個解碼器可能會被用來幫助那些喪失說話能力，或者調查心理健康狀況的人們。
精神隱私，也沒了
然而，解碼人類思想的前景還引發了關於精神隱私的問題。
Huth博士指出，這種語言解碼方法存在一定局限性。
因為，fMRI掃描儀體積龐大且價格昂貴，此外訓練模型是一個漫長而乏味的過程，也就是必須對每個人都進行單獨的訓練。
對此，研究小組進行了一項額外的研究，使用接受過其他受試者數據訓練的解碼器，來解碼新受試者的想法。
研究發現，對使用不同受試者數據進行訓練的解碼器，其表現幾乎不怎麼樣。
簡言之，隻有使用受試者自己大腦記錄的數據，來訓練AI模型，其準確率才會非常高。
這表明每個大腦都有獨特的表示意義的方式。
另外，參與者還能夠屏蔽他們內心的獨白，通過思考其他事情來擺脫解碼器。
比如數到七、列出農場動物，或敘述一個完全不同的故事。
也就是說，這一解碼器要想要獲得準確的結果，必須需要志願者的配合。
然而，科學家們承認，未來的解碼器可能會克服這些限制，未來可能會被濫用，就像測謊儀一樣。
研究人員總結道，一個美麗的新世界正在到來，由於這些和其他不可預見的原因。
提高人們對大腦解碼技術風險的認識並制定保護每個人精神隱私的政策是至關重要的。
在《黑鏡》中有這樣一幕，一位保險代理人使用一臺機器《配備了視覺監控器和大腦傳感器》讀取人們的記憶，來調查一起意外死亡事件。
然而，這一未來或許就是現在。
德克薩斯大學研究者這一突破，直接推動了神經科學、通信和人機交互等領域潛在應用。
盡管「大腦解碼器」還在研究中早期階段，但有朝一日它可能被用於記錄人們的夢境，並為腦機接口進一步發展提供動力。
負責這項研究的神經科學家Alexander Huth博士稱，我們對這項工作的原理感到震驚。
我為此研究了15年… … 所以當它最終成功時，我感到非常震驚和興奮。
看來，我們離《X戰警》中X教授查爾斯大腦掃描技術又近了一步。
網友：AI通靈者
看過這項研究後，讓許多人瞬間「炸腦」。
有網友稱，
人工智能不僅可以比我們快一萬倍地交流，而且現在甚至可以讀取我們的思想。
在 「這太酷了」和 「等等，我們是不是要被淘汰了」之間隻有一線之隔。
AI現在可以像通靈者一樣讀心。
「Keep in mind」，這隻是1.0版本。
在未來，我們的想法將不再是隱私。
世界經濟論壇的第四次工業革命非常清晰地闡述了這一點。
這是首次以非侵入性方式從人類大腦活動中重建連續的語言！
對於這項研究，生物倫理學家 Rodriguez-Arias Vailhen稱，目前為止，人類大腦一直是我們隱私的守護者。
「這一發現可能是在未來犧牲這種自由的第一步。
」
參考資料：
https://www.nature.com/articles/d41586-023-01486-z