愛犯錯的智能體 (電子書)

作者簡介
序　智慧體和程式體的對話
前言
簡單視覺錯覺
1　視覺倒像
2　顛倒的視界
3　看不見的薩摩耶
4　看得見的斑點狗
5　火星人臉的陰影
6　外國的月亮比較圓
複雜視覺錯覺
7　眼中的黎曼流形與距離錯覺
8　由粗到細、大範圍優先的視覺
9　抽象的顏色與高層認知
10　自舉的視覺與智慧
11　主觀時間與運動錯覺
聽覺、體感和語言
12　聽覺錯覺與語音、歌唱的智慧分析
13　視聽錯覺與無限音階中的拓撲
14　我思故我在
15　可塑與多義
夢、頓悟與情感
16　莊周夢蝶與夢境學習
17　靈光一閃與認知錯覺
18　情感與回憶錯覺
群體智慧
19　群體的情感共鳴：AI寫歌，抓不住回憶
20　群體智慧與錯覺
總結
21　平衡：機器vs智慧
附錄
附錄一：深度學習，你就是那位116歲的長壽老奶奶！
附錄二：童話（同化）世界的人工智慧
參考文獻
圖片來源
圖片版權聲明
附錄C D

序　智慧體和程式體的對話

我在科學網上第一次看到張軍平教授寫的系列文章《愛犯錯的智慧體》時，我還以為這裡“智能體”指的是人工智慧理論或程式設計中提到的專業名詞agent。但當我仔細讀其內容時，特別是在從頭流覽其內容時，才發現這裡的智慧體主要指的是人，尤其是生物學上的人。作者說的沒有錯，人確實易犯錯誤。書中從分析生物人的感知功能談起，以生動的例子介紹了人的視覺、聽覺、觸覺和體覺的相關知識及其基本原理。之後又進入人的感情世界，從人的情感、回憶、夢境，一直談到靈感和錯覺。在這個過程中，作者又適時討論電腦在處理人的感知世界時會遇到的麻煩及處理原則，甚至還不忘介紹一下討論物件的數學背景。高斯、黎曼、萊布尼茨、龐加萊、愛因斯坦、圖靈等大師級人物的名字頻頻出現。作者不費力地遊弋於生命、電腦、數學、物理等幾大學科之間，讓讀者經歷一次目不暇接的跨學科科學旅遊。再加上一個個有趣的故事，還有詩，畫，歌，甚至還有鄉愁！以這樣的方式來做科普，我還是第一次讀到，感覺很新鮮、很解惑，又易於接受。

本書的主角是被稱作“智能體”的人，暫時稱之為人智能體。人是萬物之靈，卻也不能避免犯錯誤，“人非聖賢，孰能無過？”。作者為何用一整本書來討論這類問題呢？看來除了分析人的感知和認知功能本身外，作者還試圖用人智慧體犯的錯誤來考核另外一個智慧體，即機器智慧體，簡稱程式體。如果後者遇到了同樣的問題，它能避免犯錯嗎？人智慧體犯錯誤一般有客觀和主觀兩方面的原因。客觀原因可能是面臨複雜的環境，包括對手的蓄意欺騙，主觀原因則往往可以歸結為經驗不足或經驗有偏差。為什麼會把美女看成老太太呢？因為不知道看一幅畫可以從多個角度看。為什麼會對隱藏在背景中的目標物視而不見呢？因為沒有想到畫中還會有畫。一個正常的人會吃一塹，長一智，變得越來越聰明。這是什麼？這就是人智慧體積累的經驗，以及從經驗中提取的理性認識。對此，程式體有一個很好的工具——貝葉斯理論。犯錯誤好比一個結論不當的貝葉斯推理，說明不是先驗有問題，就是驅動先驗的似然有問題。一個有豐富先驗和可靠選擇機制的程式體就不大會犯類似的錯誤。所以人智慧體在感到困惑的時候不妨諮詢一下程式體。

把貝葉斯模型比喻為人智慧體的經驗有一個問題，就是程式體編寫的貝葉斯模型都是針對有限前提的，即它只在程式體為它設定的某一類特定環境有效，而人智慧體則以它的全部生活和終身經歷為其經驗支撐。試問程式體能夠構造出這樣的貝葉斯模型來嗎？這可能就是程式體不及人智慧體的地方吧。不過貝葉斯理論至今仍是一個活躍的研究領域。隨著研究者們向它提出的問題越來越難，要求越來越苛刻，程式體也在一步步趕上來，更深刻的理論和技術不斷誕生。2006年有人提出了結構化先驗的概念，力圖把程式體中貝葉斯先驗涉及的眾多概念按人智慧體的認知結構組織起來。先驗不再局限於某個有限的圖結構，而可以是一個時間上無窮的隨機過程。更進一步，復旦大學的李斌提出了可學習先驗的思想，直接挑戰原本屬於人智慧體的“活到老，學到老”概念。

當然教益還不止這一點。人智慧體可以請教程式體的地方還很多。例如我們可以再討論一下人智慧體對隱藏在背景中的目標物視而不見的問題。這次我們考察那條斑點狗。公正地說，斑點狗之所以未能被發現，是因為組成斑點狗的那些斑點是一個離散集合，它們沒有連成線條，並且與其他斑點混雜在一起。結果，本來是“龐然大物”（相對於該圖像）的斑點狗消失在斑點之中。這是什麼問題？這是知識表示細微性的問題。大細微性的一條狗用稀疏的小細微性斑點表示，當然就看不見了。若問程式體這個問題該怎麼辦？程式體可能回答：“你怎麼不用細微性計算呀？”正如張鈸院士指出的：“人類智慧的一個公認的特點，就是人們能從極不相同的細微性上觀察和分析同一問題。人們不僅能在不同細微性的世界上進行問題的求解，而且能夠很快地從一個細微性世界調到另一個細微性世界，往返自如，毫無困難。”細微性計算，這個當年紮德（Zadeh）開闢的新領域，如今已經成為人工智慧研究者樂此不疲的探索地。適當地調整計算的細微性，或者靈巧地處理大、小細微性之間的互動，也許可以讓那只隱藏在斑點中的狗露出原形。

我們再看看本書中所說的視覺自舉原理。動物的眼睛在差異巨大的光強變化之間能夠迅速自我調整以適應多變的外來光。我原來一直以為人和貓的眼睛在光強變化下的自我調整原理是一樣的。感謝本書作者指出這兩者之間的區別，使我增加了知識。書中也提到了光強的瞬間變化對交通安全的影響。這個問題可能和細微性計算有關，也可能和貝葉斯先驗有關。但無論是細微性計算或貝葉斯先驗都無法解決它，因為這不是一個簡單的光強調度問題或光強轉化問題，而是人智慧體同時面對強光和弱光，甚至還有微光時的應對問題。試想，面對漆黑的夜晚裡忽然出現的一輛開著遠光燈的大卡車，你還能看清楚一隻螢火蟲嗎？幸好，類似的問題計算數學家們早就想到了。有一門學問叫多尺度計算，就是為解決此類問題而誕生的。這對程式體是個好消息。在傳統計算中有時會同時出現極大的數（如幾百億）和極小的數（如幾百億分之一）。如按常規方法則在計算進行時不是前者造成溢出，便是後者被按忽略不計處理。如何使量級差異巨大的數能夠恰當地同時處理，這是多尺度計算要解決的難題。當然，數值計算和光強調度（物理）、光強感知（生物物理）之間並沒有直接聯繫，這只是一個類比。但也許可以給我們以某種啟發。

通過這些例子或更多的例子，我們可以看到，人智慧體和程式體對事物的認知和處理能力實際上是互有短長的。本書作者提到的可解釋性問題是一個極好的例子。在求解各種實際問題時，人們往往希望能有一個既能通用建模，又能提供最優解的方法，作者用那位116歲的老奶奶做比喻說明魚和熊掌不可兼得，這個比喻非常貼切。回想在可計算性理論中我們學到過一些“不可計算”定理（不可解問題的另一種說法）。我認為116歲老奶奶的例子給出了不可計算定理的一種嶄新版本：“通用建模和最優求解不可同時計算定理”，或者直接稱為“魚和熊掌不可兼得定理”，又稱“平貓不確定原理”。作者還提到了紮德在40多年前提出的複雜系統“預測和可解釋性不相容原理”。由此可以解釋深度學習的“最優求解和理性解釋不可兼得定理”。上述第一個原理說了一個數學事實，可能會長久存在下去。第二個原理則可能是受我們目前的認識能力所限，不知道將來有沒有突破的可能性，至少在某種意義上的突破。

本書談論智能。雖然並沒有正面給出智慧或人工智慧的定義，但是通過很多生動的例子，作者已經透露了對於此類問題的一些觀點。讀者可能會注意到，人智慧體會做的事情很多，會犯錯誤的場合也很多，而許多常見的錯誤卻沒有收入書中。例如棋手錯判對方意圖，下棋輸了；學生沒有領會題意，寫作文跑題了；投資者錯估形勢，炒股大虧，等等。為什麼呢？我認為作者表明了這樣一個觀點。人智慧體的智慧並不局限于理性思維這樣的高級形式。學術界常用的公式：數據→信息→知識→智慧（或智慧）只是程式體的一種智慧公式。從作者羅列的大量視覺、聽覺、觸覺、體覺的實例來看，該公式並非對生物人智慧的一般性概括。如果注意到視覺、聽覺、觸覺、體覺並非人類獨有，則它們還表明了人以外的生物也可以有智慧。另一方面，如果我們仔細推敲“體感”這一節，可以發現本書並不認為大腦是生物智慧的唯一產地。文獻中報導的著名仿生機器“大狗”能夠在複雜地形上負重快跑，它對身體平衡能力的掌控就模擬了人類小腦的功能。在更廣的意義上，人類的腦是一個複雜結構，它的各個部分各司其職。例如腦幹要負起維持所在人生命的多種重要責任，包括心跳、呼吸、消化、體溫、睡眠等重要生理功能。還有許多條件反射和無條件反射。如果要用人工智慧技術構造一個人工生命，對腦幹功能的模擬就是必不可少的。這令我們想起了布洛克斯主張的“沒有表示的智慧”。他憑此還獲得了1991年國際人工智慧聯合大會的電腦與思維獎。

可能有一種解釋是：腦幹是一種生命現象，它卻與智慧無關。但是腦幹類比功能是人工生命的一部分，它與人工智慧有關。這種解釋使我們意外地得到了一個推論：人工智慧模擬的是否不僅僅是智慧，而可能也泛指某種生命現象？機器魚不也是這樣嗎？但是如果這個觀點能夠成立的話，就會產生一個問題：它是否管得太寬了？人工智慧究竟是我們努力的目標？還是我們應該遵循的方法學？我在《人工智慧》一書的前言中曾提到學界對於人工智慧的態度有愚公派和智叟派之分。愚公派認為總有一天會把人工智慧這座大山完全搬走（到那時機器像人一樣聰明），智叟派則認為努力挖山不應懈怠，但挖盡之日永遠不會來到。我願意站在智叟派一邊，認為人工智慧既是一種（無止境推進的）目標，更是一種（應該持之以恆的）方法學。

在結束序言之前我還想說一句公平話。本書名曰《愛犯錯的智能體》。人智能體在這裡被一系列的故事批得灰頭土臉。但是號稱萬物之靈的人智慧體，其智慧真的就那麼不堪嗎？我在這裡只指出一點，人智能體固然愛犯錯，但是更能容錯。為什麼某甲能夠一眼認出某乙？儘管某乙外表已與當年初見時很不一樣。為什麼某丙能解決一個複雜的問題？儘管他從來沒有遇到過類似的情況。為什麼不同的程式體被設計來處理不同的智慧問題？而人智慧體卻能夠處理各種各樣的智慧問題，儘管他只有一個大腦，其結構還是固定的。所有這些和他們的容錯能力關係極大。為公平起見，我建議作者在本書出版後再寫一本《能容錯的智慧體》，至少和本書一樣精彩，或者更精彩。


中國科學院數學與系統科學研究院