search
CICC科普欄目|腦機介面的倫理風險:毫不知情的「讀取」你的思維

CICC科普欄目|腦機介面的倫理風險:毫不知情的「讀取」你的思維

我們的目標應該是,在技術成熟的同時,制定同樣成熟的倫理標準,確保用戶在使用這類設備時確信自己的隱私受到保護。

目前的技術與開發中的下一代P300技術之間,最大的區別可能就在於幾乎會被所有人無視的保護許可條款。

在1995年的電影《永遠的蝙蝠俠》(Batman Forever)中,「謎語人」用一台3D電視秘密進入觀看者的大腦,獲取其最個人的想法,以找出蝙蝠俠的真實身份,2011年,市場調研公司尼爾森(Nielsen)全資收購了Neurofocus公司,並設立了一個名為「消費者神經科學」(consumer neuroscience)的部門,對有意識和潛意識的數據進行整合,以追蹤消費者做決定的習慣。

在好萊塢電影中曾經無比邪惡的概念,似乎正在變成現實。不久前,SpaceX公司首席執行官伊隆·馬斯克和Facebook都披露了研究腦機介面(brain-computer interface,BCI)技術的設想。通過腦機介面技術,我們可以利用大腦信號來控制外部世界的物體。

這是一項具有改變世界潛力的創新技術。想象一下,在癱瘓狀態時,可以只通過想象就能用義肢「拿到」某種東西,這將會多麼方便。不過,這項革命性的技術也引發了許多人的擔憂。

在美國華盛頓大學的感覺運動神經工程中心,研究人員在開發腦機介面技術的同時,也關注著另一些重要的問題,如神經倫理學和神經安全,倫理學家和工程師們正在展開合作,了解並定量研究腦機介面技術的風險,開發保護公眾利益的方法。所有的腦機介面技術都依賴於大腦信息的採集,而採集設備可能會被用在其他地方。

我們可以在許多位置記錄大腦信號,也有無數種分析數據的方法,因此腦機介面在使用上有許多可能性。一些研究者對一類規律出現的大腦信號特別關注,這種信號能提醒我們周圍環境中出現的重要變化。

神經生物學家將這些信號稱為「事件相關電位」(event-related potential,ERP)。在實驗室中,ERP可以幫助我們確定大腦對刺激的反應。這其中,最令研究者感興趣,研究也最為透徹的是P300電位,P300電位是在刺激之後約300毫秒時,在頭後部出現的一個正成分峰值。該電位會提醒你的大腦,注意周圍出現的某個特別的東西。例如,當你在公園裡尋找朋友的時候,你不會停下來盯著每個人的臉看。相反地,如果我們記錄你在掃描人群時的大腦信號,就會發現,當你看到某人可能就是你的朋友時,你的大腦信號中就會出現一個可探測的P300響應。

P300電位包含了一種下意識的信息,提醒你某些值得注意的重要東西。這些信號屬於一個尚屬未知、能幫助集中注意力的大腦通路。每當你注意到某些罕見或不連貫的東西時,P300電位就會穩定地出現,比如你在衣櫃里看到正在尋找的衣服,或者在停車場找到自己的車。

在實驗中,研究人員能利用P300電位確定那些對受試者重要的東西。利用這一特點,研究者開發出了輔助拼寫的設備,癱瘓患者可以運用自己的思維來打字,每次打出一個字母,這種方法還可以用在所謂的「罪知感問題測試」中。在實驗室中,受試者被要求選擇「偷取」或藏匿一件東西,然後研究者會向他們反覆出示各種有關和無關的物品。例如,受試者在一隻手錶和一條項鏈中進行了選擇,然後研究者出示一些珠寶盒裡的常見物品;當受試者看到他所選擇的東西時,就會出現P300信號。

每個人的P300電位都不相同。為了知道要尋找的是什麼,研究人員需要「訓練」數據。他們利用此前採集的、確信存在P300電位的大腦信號記錄,與測試中的記錄進行對比。測試中測量的是一種你自己都不知曉的潛意識神經信號,是否有可能騙過測試呢?有可能,如果你知道自己正在接受測試,而且知道刺激物是什麼。目前,這類技術還被認為是不可靠和未經證實的,因此美國法庭一直拒絕採用P300電位數據作為證據。

每當你注意到某些罕見或不連貫的東西時,P300電位就會穩定地出現,比如你在衣櫃里看到正在尋找的衣服,或者在停車場找到自己的車。

腦機介面技術正應用在醫療和其他產業中。研究人員指出,政府部門應當儘快制定政策和安全框架,保護我們的大腦免受「大腦黑客」的入侵。

想象一下,如果不是用P300信號來解決物品偷竊問題,而是用這一技術提取你的個人信息,比如出生年月或擁有哪家銀行的賬戶——在你沒告知的情況下。華盛頓大學感覺運動神經工程中心的研究人員通過數據採集,指出這種情況是有可能發生的。

利用個人的大腦活動——確切說是P300應答——研究者可以確定受試者的偏好,比如喜歡的咖啡品牌,或者熱愛的體育運動。但是,這隻有在獲得受試者專一的「訓練數據」時才能做到,那麼,如果我們不知道別人先前大腦信號的模式,如何能確定他們的偏好呢?不用經過訓練,用戶可以簡單地將數據輸入設備然後運行,跳過下載個人訓練文件或系統比對的步驟。對受訓練和未經訓練設備的研究,是華盛頓大學及另一些機構接下來研究的課題。

當腦機介面技術發展到能夠「讀取」某個未主動配合的人的思維時,倫理問題就變得尤為迫切。畢竟,大部分時間裡我們都是願意交出隱私的——當你開始和別人談話時,或者使用全球定位系統設備,允許公司採集自己數據的時候。但是,還是有許多場合,我們並不願意與別人分享自己的想法。

目前的技術與開發中的下一代P300技術之間,最大的區別可能就在於幾乎會被所有人無視的保護許可條款。如果可以在你毫不知情的情況下,解碼你的想法或計劃,你會有什麼感覺?是被侵犯的憤怒,還是失去控制的無力感?

隱私的含義範圍很廣。廣告商可能會知道你偏愛的品牌,然後給你發送個性廣告——讓人感覺既方便又有點嚇人。又或者,不懷好意的人可能藉此獲取你的銀行賬戶密碼,這就應當引起警覺了。

利用大腦信號獲取個人偏好和信息的技術潛力已經催生了許多迫切的問題:我們是否應該把神經信號作為隱私?也就是說,神經安全是否能作為一種人權?我們能否保護並儲存神經數據作為研究之用,而不是被拿去消遣?消費者如何知道自己的神經數據得到了保護或匿名處理?

就目前而言,商業使用的神經數據並不是生物醫學研究或醫保所適用法律的保護對象。神經數據應該被區別對待嗎?這一難題最好是由神經科學家和倫理學家共同來解答。

在華盛頓大學,神經工程學家和倫理學家正展開合作和交流,尋找保護隱私權和降低神經技術安全風險的方法。關於技術和隱私權的爭論,還可以在其他領域——比如遺傳學和神經營銷學——中得到借鑒。

不過,在讀取神經數據的問題上,有一些重要的差別。這種技術與人類思維的連接更加緊密,並且關係到我們會成為什麼樣的人。正因為如此,由腦機介面技術引發的倫理問題必須得到特別的關注。

在我們爭論如何解決這些隱私和安全的問題時,目前P300技術的兩個特點將為我們爭取一些時間。首先,大多數商業設備使用的是乾電極,只依賴皮膚接觸來傳導電信號。這種技術有較低的信噪比傾向,即只能從用戶那裡提取到相對基礎的信息形式。我們知道,由於電極移動和大腦信號本身的性質,我們記錄下來的大腦信號是非常多變的——即使是同一個人。

其次,電極並不總是處於最佳的記錄位置。這些固有的可靠性缺失意味著,腦機介面設備目前還無法普遍使用。可以預計,隨著電極硬體和信號處理技術的改進,腦機介面設備將越來越容易使用,從不知情者的大腦中提取個人信息將變得越來越方便。

最安全的建議自然是完全不使用這些設備。但是,我們的目標應該是,在技術成熟的同時,制定同樣成熟的倫理標準,確保用戶在使用這類設備時確信自己的隱私受到保護。

對科學家、工程師、倫理學家和最終的政策制定者來說,擺在面前的是一個罕有的機遇。他們應當通力合作,開發出比科幻小說中更好的產品,同時確保用戶的安全。

免費訂閱!

C2

如何加入學會

註冊學會會員:

個人會員:

(c2_china),回復「個人會員」獲取入會申請表,按要求填寫申請表即可,如有問題,可在公眾號內進行留言。通過學會審核後方可在線進行支付寶繳納會費。

單位會員:

(c2_china),回復「單位會員」獲取入會申請表,按要求填寫申請表即可,如有問題,可在公眾號內進行留言。通過學會審核後方可繳納會費。

學會近期活動

1. CICC企業會員交流會

會議時間:(具體時間詳見後續通知)

2.2017首屆全國兵棋推演大賽

2017年6月

3.第五屆指揮控制大會

2017年7月3-5日

4.第三屆軍民融合技術裝備博覽會

2017年7月3-5日

長按下方學會二維碼,關注學會微信

感謝關注

熱門推薦

本文由 一點資訊 提供 原文連結

一點資訊
寫了5860316篇文章,獲得23299次喜歡
留言回覆
回覆
精彩推薦