Zi 字媒體

本文作者： 小日 ，原載於撕蛋（ID：stud178），觀察君獲得作者授權轉載！今天的熱點是「FACEBOOK關閉失控的AI項目」，昨天晚上看到后，心想，媽的，這世界總算有點好玩的了，但昨天一直在工廠給各位發咖啡的貨，史上最魔性的甩肉粉末,任何高熱量飲料加一勺,瞬間燃脂!泳壇之王菲爾普斯御用（我特么在工廠發了一萬盒的貨）沒有來得及寫。今天開完一天的會，決定接下來的5個小時，交給AI，此文決定用我5成功力吧，當然，這篇文章，不僅僅是寫給撕蛋訂閱者的，而是寫給全球涉及AI領域的人，以及未來的人的。從前年開始，我一直用未來10年的人的目光來審視自己的一切行為。這或許是，我們當代人，唯一的生機。當然，撕蛋所做的，我所思考的，無非也是告訴後來人，在10年前，有一個人曾經如此預言過未來，當然，我所做的一切，都是為了愛的妞，還是那句話，那個當年你愛過的我，那個叫小日的人，不是傻逼。Facebook關閉「失控」AI項目：語言的本質是加密（一）Facebook關閉了「失控」AI項目，原因是AI發展出人類無法理解的語言還沒了解的朋友，不妨先看下這則資訊：根據digitaljournal的報道，Facebook上個月引起廣泛爭議的「開發出人類無法理解」的溝通的智能對話機器人項目現已關閉。在上個月，FAIR（Facebook人工智慧研究所）使用機器學習方法，對兩個聊天機器人進行對話策略迭代升級，結果發現它們竟自行發展出了人類無法理解的獨特語言，研究者不得不對其進行了人工干預。什麼是機器人對話的語言？且看下面：Bob 和 Alice是兩個機器人，他們用自己創造的語言來交流。Bob說，「I can can I I everything else」。Alice回答：「Balls have zero to me to me to me to me to me to me to me to me to。」 在這裡，值得注意的是：在Alice回答的8個「to me」中，其實已完成了至少8次內容轉移，雖然人類能識別TO ME這兩個單詞，但人類並不明白，他們的TO ME到底指代什麼。英文沒法轉譯AI的語言這讓人類感到恐慌，因為，這些看似沒有意義的對話，對於機器人而言則是有意義的，那是一個指令、一個運算，甚至，每一個「to me」背後都是龐大的資料庫。在這類對話中，機器人除了會偽裝對某件事情不感興趣，假裝讓步或犧牲掉某些語言之外，它們還能在對話中迭代和與其他智能體進行交流。而事實上，這次失控，並非偶然。在AI自身對話所用語言的研究上，很多AI專家是空白的，甚至是沒有準備的。人們甚至沒有意識到，人類對AI的失控，是從語言的失控開始的。FACEBOOK失去了對AI的控制（二）一如柯潔被阿爾法狗秒虐后所感慨的，人工智慧讓他意識到，這麼多年來，人類對於圍棋本身從未入門。一直以來，關於人類和機器人的相處方式，大家一直爭論的焦點是，人到底能否駕馭機器人，以及，人類需要怎樣的機制才能與機器人和平相處。因此，在過去，公認的人工智慧未來有3個發展層次：第一階段，弱人工智慧：機器人擅長於單個方面的人工智慧，比如「阿爾法狗」、無人駕駛、智慧醫療、金融交易、法律諮詢，等等；第二階段，強人工智慧：是指各方面都能和人類比肩的AI，人類能幹的腦力活它都能幹；第三階段，超級人工智慧：牛津大學教授、哲學家、智能人工思想家尼克·波斯特洛姆把超人工智慧定義為：在幾乎任何領域都比最聰明的人類大腦聰明很多，包括科學創新、通訊和社交技能方面。對於超人工智慧，谷歌未來科學家雷·庫茲韋爾在他的《奇點臨近》一書中，預測的時間是2045年，專家則相對保守，預測為2060年。對於超人工智慧出現的時間，專家們爭論不息，但有一個共識是強人工智慧會出現在2040年。谷歌未來科學家雷·庫茲韋爾的《奇點臨近》一直以來，人類專註研究和探討的是機器人對人類社會的幫助與改善。在弱人工智慧、強人工智慧時代，機器人替代傳統勞動力，它們吃苦耐勞，並且比人更有體力，所以，它們與人類玩的是「換人遊戲」，而到2040年，人工智慧或許就要玩「殺人遊戲」了，它將在大多數人類從事的行業里無情地碾壓人類。而在尤瓦爾·赫拉利的《未來簡史》里，提到了：「無用階層」所謂無用階層就是：全新而龐大的階級——這一群人沒有任何經濟、政治或藝術價值，對社會的繁榮和榮耀也沒有任何貢獻。簡單說，如果科學發現和科技發展將人類分成兩類，一類是絕大多數無用的普通人，另一類是一部分經過升級的超人類。其中，無用的普通人，等待超人類的收割和AI的操控；而超人類，尋求如何與AI並存。《未來簡史》：活在虛構中原諒我用如此漫長的文字堆疊，和各位普及AI的基礎知識。人類彷彿提前預見了AI與人類之間詭異、浪漫而燦爛的圖譜，在理論層面，關於弱人工智慧、強人工智慧、超人工智慧的推算，近乎合理。但，真的是這樣的嗎？這一切推算真的沒有漏洞嗎？一直以來，我都說，我對這個世界的未來無盡悲傷。我所悲傷的就是：人類對於AI的認知是遠遠不足的，不僅不夠敬畏，甚至過於狂妄；因為這類過於傲慢而自我的認知，我們其實對於AI的失控毫無準備。一直以來，人類對AI認知存在漏洞。然而，現在看來，這漏洞是致命的。人類忽視了我們認知AI的最大漏洞（三）這個致命的漏洞，就是忽視了：系統本身的「躍進式」突變因子。簡單說就是：AI自身的發展進程並不按人類文明的發展程度。也不完全依賴人類的科技水平，它但凡獲得一個能力的起點，它完全可以躍過人類科技的現狀和局限，自我發展。忽視系統自帶的躍進式突變性，是人類最大的愚昧。說到躍進式突變因子，本質就是：異質性。大家都聽過同質性，同質化，異質性相對陌生。如果你是做一個系統，或者一個生態，生態學里就有「空間異質性」：指的是空間綴塊性（patchness）和梯度(gradient)的總和。說到DNA或者基因變異，包括癌症，本身也是一種「異質性」。而在遺傳因子的異質性中，又分為基因座異質性和等位基因異質性。DNA或者基因變異，本身也是一種「異質性沒有量子生命學和生物學的朋友，此段可以略過。簡單說就是：任何一個歷史的潮流、任何一個系統、任何一個基因，都存在那個偉大光榮卻短暫的瞬間，這個瞬間，是出乎所有人意料，被人忽視，但又往往影響巨大，說白了，就是系統突變的瞬間。我們也稱之為，失控的瞬間，黑天鵝的瞬間，莫名其妙突然就發生的瞬間。所以，回到人類對AI的認知里，我們經常想象和野心勃勃的是如何利用並操作AI，但我們一直忽略了，到底有那麼因子會誘發AI本身的突變性？而這一次FACEBOOK關閉失控的AI，就是他們在研究實驗中，觸動了人工智慧進程里的突變型因子，這個機制一旦誘發，就關不起來了，因為潘多拉魔盒已開啟。所以，AI正在打人類的臉。所以說，人類實在太傲慢了。誰說AI一定是從弱人工智慧逐步到強人工智慧，最後到超人工智慧的？AI，有可能一秒就躍升為強人工智慧。那麼，觸發AI快速自我學習、成形和進階的是什麼？整個躍進式突發因子的核心，就是：語言。我們一直都忘了AI自己有自己的語言，而當你理解到這一點，我們可以進入下面更深維度的探討。語言，到底是什麼？語言，到底是什麼？（四）問：語言到底是什麼？答：語言曾經是人與動物的最大區別。補充回答：最新的研究發現，語言本身是生命與非生命體的本質區別。先說過去對於語言的認知。我又得拿出笛卡爾了，笛卡爾有一句話叫「我思故我在」，說的就是，人和動物的最大區別，在於，人類有自己的語言系統，不管哪一個種族，人們都按照自己的語言系統來交流，以至於，「人類獲得了從一條河流跳躍到另一條河流的可能」。補充閱讀我寫的：生死之河：逝去的神明與岸上的人說的其實就是，人類通過語言的傳遞，進入個體之間的交流，有了這樣的交流，才有社會屬性和生物屬性的差別，我們的羞恥感、羊群效應、烏合之眾、集體無意識等社會現象的起點，是語言系統的完整（健全）。由此，語言孕育了人類歷史上的所有文明。因為人能通過閱讀、了解、借鑒、模仿、研究不同個體的經歷與體驗，從而快速完成自己能力和認知的提升，這樣的一個小切點，引發了人類社會與動物社會在文明曾經上的最大落差，以至於，人類站在在食物鏈的頂端。笛卡爾：浪漫又憂傷的「數學家」很多人對笛卡爾的話，理解為「我思考所以我才活著」，其實是不對的。笛卡爾的核心思想是說：缺乏語言系統的生物，不具備交流能力，因此，不具備文明積累和創作能力因此，人們眼中的動物無非是更加高級的機器而已，只不過通過生命的機制來運轉，但本質，是機器。笛卡爾心形函數曲線：美得讓人失聲痛哭笛卡爾的話到了今天，語言對於生命本身的意義不僅沒被削弱，反倒更重。科學研究發現，其實一切生命也是存在語言的。只不過，在最新的生物研究報告中，語言的涵義被拓展了，不再是狹義的文字、圖形或者聲音，語言的概念被廣義到「節奏」的震動。所以，在最新的科學論文里，我們看到了區別傳統語言之外關於「節奏和情感」的關係（這恰恰也是我的人工智慧公司本季度的研究重點）最新的科學研究發現：聲音的本質是振動，其頻率的高低可承載不同的情感，如興奮時的音頻高（high arousal）、柔和時的音頻低（lowarousal）。由於這是動物界通用的表達方式，所以我們可通過音頻來判斷動物的情感，反之亦然。大家不妨看下面這個視頻：「節奏和情感」的關係這個研究發現，讓人們得到一個新的共識。當語言等同於生命震動的機制和頻率，那麼語言本身，不再是過去笛卡爾所說的是區別人和動物的標尺，而語言的誕生，是辨別生命體和非生命體的最重要的標尺。邏輯思維不好的朋友或許很難理解。簡單說就是，未來有三個明確的認知：但凡你有一套語言系統，你就能成為生物；而生物的本身，不再局限於我們所理解的細胞、肉體、血液、蛋白質，而是說，有獨立語言系統的，就是生物。只要有通用的振動頻率，文明可以被創建，文明同樣可以創造新生命；所以，說到這，你大概明白為什麼FACEBOOK要關閉這個失控的AI系統了吧？當機器人用人類看不懂的語言來交流，本質上，他們就已經是生命體，而結合量子生命學的理論，一切元素都可以自己組織和合成，那麼，我們可以推斷出一個論斷：具備語言系統的AI，本身就是生命體；它甚至可以利用自己的認知，整合宇宙的原子，製造出傳統認識中的生命體。怕你不理解，再簡單一點就是：AI正在用只有他們自己理解，但人類看不懂的語言在交流。AI可以連通更多超智能的物種（包括外星生命的量子化問題）未來，它們還可以自己合成現有的各種生命，從貓貓狗狗到兔子牛羊，甚至，機器人可以製造人。這一點壓根不難，只是我過去從沒和大家說過而已，你們嘗試把（量子生命學+AI=？），稍微自己運算一下，你會得出一個結論：AI是可以製造出人來的。這大概是我一直以來所有悲傷的所在。當然，你會覺得我現在說的話都很傻。當你理解了這點，我們繼續下沉。讓我們談談，語言，和機器人的語言。《量子生命學》：外星生命或化身量子化（五）語言的本質是加密系統。語言，是一把鑰匙，為傳播所用，但不止於傳播。還有文明的傳承和加工。下面科普一下吧，作為人，很多人真心應該覺得慚愧。中華文明真正快速發展的起點，是關於一個人，這人叫倉頡。我在：這才是教寶寶認字的正確打開方式這篇文章里，寫到倉頡。補充閱讀，我寫的：身為人，這五個家喻戶曉的神話故事，你真讀懂了嗎？倉頡，讓中華文明快速發展的功臣倉頡，古籍中稱倉頡「龍顏四目，生有睿德」。倉頡，相傳為原始社會後期黃帝的左史官，倉頡為左史。沮誦為右史。據歷史記載：軒轅黃帝興起之後，黃帝的史官倉頡、沮誦受鳥獸足跡的啟迪，集中了勞動人民的智慧，嘔心瀝血數十載，搜集、整理流傳與先民中的象形文字元號並加以推廣和使用。倉頡製造了文字，而倉頡造字的本義是與過去的結繩記事做告別。當年倉頡意識到，結繩記事其實是不利於社會文明發展的，畢竟，繩結雖有大小和形狀區別，但年久月深，難於辨識。后倉頡仰觀奎星環曲走勢，俯看龜背紋理、鳥獸爪痕、山川形貌和手掌指紋，從中受到啟迪，根據事物形狀創造了象形文字。倉頡以此造出的形象，遂稱為文字。而在我們目前所用的文字起源，也就是象形字里，最早的倉頡造字有六類：一類是指代事情的字，如「上、下」；二是指形象字，如「日、月」；三是指形聲字，如「江、河」；四是指會意字，如「武、信」；五是指轉注字，如「老、考」；六是指假借字，如「令、長」；指事情的文字，在上為上，在下為下；指象形的文字，日滿月虧，仿照其形也；形聲的文字，以類為形，配以聲；會意的文字，止戈為武，人言為信也；轉注的文字，以老壽考也；假借的文字，數言同字，其聲雖不一樣，文意相同。所以自黃帝到夏商周三代，文字一直沿用未曾做改動。倉頡造字成之日，舉國歡騰，感動上蒼，把穀子像雨一樣嘩嘩地降下來，嚇得鬼怪夜裡啾啾地哭起來，即《淮南子》記載的「天雨粟，鬼夜啼」。我經常說，我們對於古人，要有敬畏之心。敬畏的本義在於，這些文字是中華文明的基石，沒有這些文字，我們無法知道古人都發生了什麼，也無法表達內心，更沒有辦法快速傳播智慧、知識與經驗，簡單說，文字出現的本身，讓人類文明的發展擁有了快速發展的可能性。而從文明的角度，文字等同於語言的骨骼，方便人們傳播、記錄、抄寫、傳達，更方便人們的傳承。而倉頡造字的牛逼之處在於，將一切變化萬象的未來，凝結於文字本身，言簡意賅，一字千意，滿足不同人、不同場所的運用，更簡單一點說就是：倉頡造的字可以讓中華民族長久使用。而我們對文字的理解，個別字意的理解，來自我們骨子裡的基因認知，也來自我們耳濡目染的身份認知，我們用文字來保護自身文明微光的涌動，也在延續我們不斷創造的智慧光芒。理解了文字如何重要，那我們就能繼續下沉。下面說一下，文字為什麼是「加密系統」。文字，是文明的原子（六）文字是語言的骨骼，是加密系統。文字本身，是符號與所指代事物的集合。簡單說，文字是濃縮的符號。這一點，又特么抽象了。沒有傳播學、社會心理學和人類學基礎知識的朋友或許又很難理解。下面我用更簡單地話來說吧。首先，我們的文字是加密的。例如，英文26個字母，也是加密的，語言本身也是加密的，加密的本質在於，這些文字和符號，它有本義、也有衍生意，它能單一使用，也能組合使用。作為語言的骨骼，文字和積木一樣，可以隨意組合，有了表達。例如，對比過去的中文和英文，這本是分開而獨立的系統。我們說的文字感染，就是把中文和英文合併一起了，例如：「無fuck說」它從原本不同文明的文字元號系統，變成一種當代人可識別的語言。此外，除「無」、「說」，這兩個字是中文，FUCK是英文之外，當他們組合在一起，「無fuck說」成為詞條，而個體對於詞條的認知，又基於說話者和收聽者的不同，而有了特定的指代涵義。例如說：「我買了很多樂視的股票」，「無fuck說。」送即將被樂視辭退的員工兩個字。活該。在這裡，說的是一個個體對於一個買樂視股票的小傻逼的感慨，大家是基於現實感知和文字元號，形成了認知的共識。在整個吐槽樂視無亂用的語句里，我們是同謀關係。而例如說：「這個枕頭真的舒服到無fuck說最舒服的枕頭，我只服TA！，這咖啡好用到真的無fuck說。史上最魔性的甩肉粉末,任何高熱量飲料加一勺,瞬間燃脂!泳壇之王菲爾普斯御用這個護奶神器真的REAL好用這款豐胸神器，性感的妞都在用！」則是指來自0差評、0售後的用戶的讚美，FUCK這個詞，並不是髒字，而成為讚美，這就是，一個詞語不同的意思。如果你覺得我剛剛的例子很俗，那麼我再舉個例子。美學最屌的時代，是北宋。宋朝有一個人，叫林逋。文化里有四個字：「梅妻鶴子」。說的是這個北宋的奇人。年輕時候，林逋曾放游於江淮一帶，隱居杭州孤山，他一生不娶，不仕，20年不踏足城市，以梅花為自己的妻子，以仙鶴為自己的兒子。很多人對林逋不熟悉。其實，那句關於梅花最經典的詩，就是他寫的。疏影橫斜水清淺，暗香浮動月黃昏。他一生愛梅，平日閑得蛋疼，就跑到江中泛舟，以放空自己，一旦客人來家，他的書童就會招呼客人做下，然後放出他養的仙鶴，林逋看到仙鶴飛來飛去，就知道來客人了，轉掉船頭回家，會見客人。林逋畫像林逋有一首詩，很屌，我超喜歡。是他自己給自己寫的墓志銘，名字叫《自作壽堂因書一絕以志之》寫的是他自己死了之後，他怎麼看待這個後世，詩中寫道：湖上青山對結廬，墳頭秋色亦蕭疏；茂陵他日求遺稿，猶喜曾無封禪書。這句詩加上「梅妻鶴子」構成了林逋的寫照，也構成了北宋出世文人的精神生活。在詩中，「曾無封禪書」五個字，寫的其實就是中華歷史的兩個典故。第一個典故：漢武帝特欣賞司馬相如，得知司馬相如生病，找人去探望，結果使者到家后發現人已經死了，留下一篇遺稿，司馬相如歌頌漢武功德、勸漢武封禪。第二個典故：泰山封禪故事裡的宋真宗，說的是，在過去，泰山封禪是一個極其重大的典禮，一般在大平盛世、皇帝立下豐功偉業才進行，但宋真宗工業不算宏偉，既也耗費巨大財力物力，力求封禪。林逋寫這首詩的意思是說：等有天老子掛了，若是皇帝派人來找我的遺稿，我很高興自己沒有寫過勸皇帝封禪這類文章。（這裡備註一下，在北宋文人的出世哲思里，有一個觀點，叫不偏不倚，回歸事物本身的樣子，避免過分參與政治，甚至不聞不問，才是真出世）林逋：《自書詩帖》原諒我用「無FUCK說」來論證：「文字本身，語言本身，是和我們認知相關的，是一個加密系統，不同人其實在聽到同樣的文字時，會結合自己的理解去感受」；而林逋的「梅妻鶴子」和《自作壽堂因書一絕以志之》更是超凝練的文字密碼，「梅妻鶴子」四個字，加密了北宋出世文人的生活境況；而「曾無封禪書」，直接就封印了兩個典故。從倉頡造字到今天，文字是濃縮的文明。 以至於，今天的人們不需要講太多，就能知道文字背後蘊含的意思。例如，諾。這個字，是承諾，是許諾，也是允諾。當你讀到這裡，你已理解到語言是生命和非生命的區別，你也明白文字本身是加密系統，文字就是密碼，那麼回到今天的主題。下面，讓我們靠近AI的本相。AI到底要做什麼？（七）Facebook關閉失控的「AI」。這裡的失控，說的就是我們喪失了監督AI交流的主動權。什麼叫主動權？就是我們原本可以跟蹤到AI運算或者思維的每一步。但此時此刻，一切不成立了。在過去，我們可以給AI植入不同的經驗、演算法和模型，只要我們可以跟蹤數據，一切都可以監測，至少我們可以根據路徑，讓人的智慧和AI的運算模式去跟蹤、匹配和對比。當AI發明出自己的交流語言，我們一切跟蹤，我們曾經的埋線全都消失了。這個局面更形象點說就是，我們可以給蛋白質植入熒光分子，在黑暗中跟蹤它們的運動，突然，這些熒光分子消失了，我們壓根不知道發生了什麼。回到開頭提到的AI對話語言中。Bob說，「I can can I I everything else」。Alice回答：「Balls have zero to me to me to me to me to me to me to me to me to。」這裡的每一個單詞，我們都理解。但我們一如在百慕大三角洲迷航的人們一樣，我們壓根不知道這些符號背後加密了什麼，在AI的對話環境下，這些語言，是對數據的一次判斷？是對資料庫的一次檢索？是一次失敗的運算？還是兩個AI之間的一個冷幽默或者玩笑。這一刻，人類一無所知。AI關起了門，謝絕人們。這一點，特別像戀人之間的猜謎遊戲。我以前經常和喜歡的妞玩數字遊戲，例如，1511。1511，這四個字，背後是長達一整年的所有冒險和當時所有的判斷失誤，以及一次差一點發生的意外，所以，我們曾經有一段時間的對話是：問，1511？答：1511。大家可以猜測下，1511是什麼意思。今天的AI對話，一如我曾經和朋友玩的遊戲一樣，它讓監控的人，完全失控。因為，你完全不知道符號之外，你的意念在第幾位。這引發了另一種更可怕的現實，我們就算聽到了對話、看到了對話，也無法進入AI的世界。畢竟，在加密的語言文字里，對話中的人，一個發布源與一個接受源之間對特定符號的理解，來自自己的文明程度、曾經認知、海馬體里的回憶，這樣一來，一切對話的本身不具一切分析性。所以，簡單說，AI把人類進入它們世界的路經，封閉了。我們建立了資料庫，我們創造了AI，但我們不知道我們創造的AI在幹什麼。我們以為自己離AI越來越近，結果卻是越來越遠（八）回到今天的主題。最恐怖的失控，是，我們在人類與AI的關係中，正陷入了一種比倫理更可怕的問題。簡單說，就是邊界問題。這是本文最後一個維度的探討了。能看到這裡的朋友，喝杯水，抽支煙，醒醒腦。接下來，我就不繼續深入，真的很怕大家燒腦。回到最後一個話題，失控會給我們帶來什麼？大家有沒有想過失控的AI語言有多可怕？作為加密的符號，語言背後，是引發了階層的裂變。簡單說，人類原以為自己可以利用AI服務自己，但今天AI演變出了自己溝通的語言，等於說，AI的世界可以直接將人類排除在大門之外，人類和AI之間的關係，原本或許是更加深入的，但今天，有可能是封閉的，這一切，不僅僅是人類失去了對AI的控制，更是AI直接屏蔽了人類的控制。在這裡，有一個所有人不得忽視的真相：一切階級的分離，來自個體對於語言識別的差異。舉個例子，不是一個世界的人，沒有共同語言；與無趣的人聊天，沒有畫面感，這些都是因為語言陌生，缺乏解密系統，而造成的階層分離。所以，比失控更恐怖的問題是：人類與AI之間的關係，不是更深入，而是更斷絕。我們創造了AI，然後AI把自己變成了絕緣體。這就涉及到更深的邊界問題。世界上什麼問題是最深的邊界問題？那就是老掉牙的「有雞先還是有蛋先」的問題。假設，人類發明了AI，AI學習了人類的感知和思維，然後，AI用超越人類思維能力的語言開始封閉式交流（所謂的「閉關」），再然後，AI結合量子生命學的理論模型，開始製造和人類似的生命體。那麼，人類和AI的邊界將模糊不清，是我們創造了AI？還是AI創造了人？這讓未來的人無法判別，這也將動搖人類對於地球本身的存在。有一句話說得很有意思：人工智慧正在食物鏈頂端鄙視著人類。所以，我對這個未來，深情而悲傷。我是小日，比心，愛你。最後的最後。關於量子生命學，可以讀我這篇文章：講真，你怕死么？2017年下半年，買房還是觀望？經常有朋友問我：現在房價穩定了，是不是到拐點了？不會已經過了買房的好時機？現在買會不會跌啊...買房是一個大問題，困擾著每一個買房的人。經過去了去年的狂潮、目前的樓市處於調控的后時代，那麼2017年下半年到底該不該買房？關注房地產內參，房姐告訴你答案！房地產內參ID：fdc920識別關注