打開演算法黑箱：反噬的AI、走鐘的運算，當演算法出了錯，人類還能控制它嗎？

關於書名的一個註解
導論
 
【第一章  權力】
回歸基本面／盲目信任／人工智慧遇上天然呆／何時否決／權力鬥爭
 
【第二章  資料】
聚沙成塔／目標市場／西部蠻荒／劍橋分析／精細操弄／給我評比
 
【第三章  司法】
一致性的難題／正義方程式／問問觀眾／人類vs機器／尋找黑武士／機器的偏差／艱難的決定／總結
 
【第四章  醫療】
模式獵手／視物機器／AI盟友／修女研究／預測的力量／數位診斷／親愛的，這是最基本的／麻煩的資料／隱私問題／基因洩天機／最大的善？
 
【第五章  車輛】
我周遭有什麼？／貝牧師的大教堂／所以，你的無人駕駛車應該去撞行人來救你的命嗎？／違反道路規則／公司寶寶／自動化的反諷／寄予厚望
 
【第六章  犯罪】
山貓行動與草坪灑水器／未來圖表／標示與助長／犯罪預報機／預言付諸實現／你以為你是誰？／看見分身／百萬分之一？／取得平衡／複雜難解的取捨
 
【第七章  藝術】
多重世界／獵尋當紅炸子雞／品質量化／「傑出的藝術家模仿，偉大的藝術家盜竊」——畢卡索
 
【結語】
人類加上機器
 
謝辭
注釋

這真是一本好書，解開「演算法」這個時髦科技魔法箱子！！
《打開演算法黑箱》這個書名就非常吸引人，彷彿告訴你可以解答許多黑色魔法的祕密，其實「演算法」這個名詞已經在學術界、產業界長久以來應用於蒐集到的資料來進行分析及相關預測，最常見於醫療診斷、司法體系、新興的商業購物及帶有大量政治爭議性的民主選舉操作。為何這幾年來任何一種方案只要加上「機器學習」、「人工智慧」、「類神經網路系統」等字樣，似乎這個方案就有了魔法般，馬上成為行業中權威的代名詞？人類似乎知曉自身的缺陷（決策帶有情感、無法長期處理單一重複動作），而將完美的解決方案投射於一台能夠自我學習成長又永遠不帶情緒、喜好偏見的自動化電腦！然而大家卻不知道每一種演算法的SOP 及邏輯推理都是設計者（人類專家）預先設定的啊！
當然機器學習後的演算法一定是可以幫助人類解決大部分消耗腦力判斷的工作，也一定能大幅提升生活的品質甚至到更高的境界，然而如果演算邏輯的設定來自於人類，那麼意味著每一台機器的決策思考點是否又面臨著道德的風險與矛盾呢？因為每個演算邏輯設計者就還是生命中伴隨著喜怒哀樂成長歷程的你跟我啊！
對於想要了解「演算法」是什麼、演算法為何能夠成為科技新魔法的你，絕對是你不能錯過的一本好書。
        ―― ――丁彥允 ∣ 喜門史塔雷克創辦人兼總經理
 
在《打開演算法黑箱》這本著作中，作者漢娜．弗萊搭配生動的真實案例，告訴我們資料和機器學習型演算法如何改變現代生活的每一個層面，從司法體系、醫療保健、無人駕駛車，到犯罪預測及防範、藝術創作等，以及人類該如何因應。作者藉著多個依賴演算法做決定而造成傷害的故事，說明不要盡信人工智慧機器的權威。她建議演算法和人類以夥伴關係一起合作，善用彼此的強項，並且互相提升彼此的能力。此外，作者提到免費的演算法正刺探我們的隱私，蒐集及運用個人資料以獲利，也因此歐盟已立法制定了「一般資料保護規則」。她也提及一些瀏覽器已有內建的「智慧防追蹤」。我們應該敦促政府檢討及修正「個人資料保護法」，更完善保障個人隱私及消費者權益。總括而言，這本著作提醒我們在享受人工智慧機器帶來更便利的生活之餘，也要思考人類在這智慧時代的定位。
        ―― ――王國禎 ∣ 國立交通大學資訊工程學系教授
 
如作者所言：未來，不是偶然，而是你我使然。人工智慧因人而生，這次將徹底改寫人類的未來。
        ―― ――李友專 ∣ 臺北醫學大學醫學科技學院特聘教授兼院長
 
《打開演算法黑箱》這本書不斷交錯著兩種正反互駁的觀點：演算法可以很厲害，也可能犯很愚笨的錯誤；信任它可能可以走得很遠，但盲目的信任往往會導致巨大的災害；它往往複雜得難以解釋，但卻不是不可能被操弄；它可以帶給人類更美好的生活，但是也同時帶來隱私與安全上的隱憂。在人工智慧的世代，人類如何能善用之並與其和平共處，相信讀者從這本書中可以找到許多的啟發。
        ―― ――林守德 ∣ 國立臺灣大學資訊工程學系教授、教育部人工智慧技術及應用人才培育計畫辦公室主任
 
生活科技培養設計思考。
資訊科技培養演算思維。
這是最新十二年國教中學資訊教育的兩門課程。《打開演算法黑箱》這本書啟迪我們學習如何思考設計演算法，適合做為科技教育的必讀選材。
演算法是讓電腦按照步驟執行大量演算的指令清單。演算法清一色是數學運算：運用方程式、算術、代數、微積分、邏輯和機率等，並轉譯成電腦編碼。這是為什麼在AI的時代，先進國家一再強調未來數學基礎好的人才是社會最需要的。
演算法已滲透到我們的各種日常。本書從權力的觀點，控制與被控制的角度做為上位綱領，以實例深入剖析司法判刑、醫療診斷、自駕車的倫理、犯罪預期、藝術仿真等既已發生的議題，跨越科技領域，從心理學、社會學、法學、醫學、音樂、美術、文學等等，穿透力十足的整理、論辯，引領我們思考，人類與機器的強項必須如何協調整合才能讓「演算法的整體淨效益成為社會健康發展的正能量」。這本書是大學通識教育的優良教材。
作者數學家漢娜．弗萊她嚴謹論證的特質，在本書的撰寫上充分的延伸發揮了。
這是一本超越休閒性的科普讀物，生活在數位AI時代，必讀！
        ―― ――林福來 ∣ 臺灣師範大學名譽教授
 
本書說的機器，已經不再是工業時代靠著機構與內燃機哐啷作響的生產設備，而是在看得見的你我手上的手機、車上的微電腦主機板，或是也許在遠的、看不見的機房裡，用許多方式組成或大或小的資訊設備。它們不太做實際的「動作」，但實際上以某種「難以名之」的方式，影響了在這個社會裡能動作的人――我們。這種難以看見接觸，高度專業性，同時也被鑲嵌在龐大技術系統裡的資訊運作，對於廣大的一般人來說，是難以想像的黑箱。黑箱雖並不直接等於惡或是無法挑戰的霸權，我們首先必須能意識到黑箱的存在，並且對黑箱中運作的技術有興趣，時時不斷地保持敏銳與好奇，對於生活在資訊時代的這個人生，堅持一些重要做為人的價值。
資訊科學的興起是奠基在數學上。博士時期以數學角度研究流體學領域微小液滴變形的漢娜．弗萊，之後以討論各種生活中常見的事物，推廣公眾對數學的興趣，在二○一八年獲得Christopher Zeeman Medal for Communication of Mathematics的肯定。《打開演算法黑箱》以各種發生過的實例，從說明及分析基礎的數學邏輯――演算法――如何與在事件中的人互動，提點出這個時代做為一個人的挑戰，與任務。
人工智慧（AI）有沒有智慧很難斷定，但確是實實在在地滿載了演算法和繁重（發展演算法和應用演算法）的工人（labour）時數的努力；談演算法的書沒有數學公式，但敘說了過去數學邏輯與社會運作人類生活種種幸與不幸的交織。新世界如何美麗？我們如何拆解黑箱、透明化黑箱，甚至從頭開始建立民主、開放的，根本沒有「箱」的知識系統？
這是一本寫給人的書，寫給黑箱外、也是寫給黑箱裡的人看的書。在台灣學術、教育領域正極力推展AI做為新顯學的今日，出生在這個時代的年輕天然資訊人，曾經經歷過，或參與過，演算法從解一個小的偏微分方程，到協助今日鋪天蓋地的臉部辨識、自駕技術的蓬勃發展與運用的中年世代，還有在農業時代成長、在資訊時代成熟的所有人，這是寫給你的書。
        ―― ――洪文玲 ∣ 台灣科技與社會研究學會理事長
 
科技時代，AI做為一種選項，我們應該考量的不是「用」或者「不用」，而是「怎麼用」。要回答這個問題，我們需要知道AI可以「做什麼」。在這點上，本書無疑是成功的。漢娜．弗萊從具體案例出發，透過平易近人的口吻，向我們展示演算法早已是日常生活中不可或缺的一環，時刻影響著我們的選擇。如果你仍認為人生掌握在自己手中，我會強烈建議你讀讀這本書。
        ―― ――張智皓 ∣ 《今天學哲學了沒》作者
 
人工智慧或演算法對於司法裁判的影響爭論已久，從二○一六年開始，法律人和科技人對於司法的判決，由人類法官決定，或是由演算法來決定何者更優，雙方各執一詞爭論不休。
如果你對於只從片面的角度探討這個問題，拉抬自己認同的驕傲專業感到厭煩，那麼應該來看看這本書。
作者客觀的評價了演算法和司法系統的衝突與矛盾，沒有高估了科技，也沒有低估人與人之間的矛盾對於制度的影響，真實的評價了人類社會一個真實的糾結：「我們不喜歡錯誤，但不可否認的，錯誤是人類社會的一部分」。
        ―― ――郭榮彥 ∣  Lawsnote創辦人、律師
 
進入人工智慧時代，我們該如何規範人工智慧，或甚至反過來說，人工智慧該如何規範我們，是不容迴避的課題。本書透過大量案例顯示，人們不完全理解我們部署的系統潛在危險。當前的機器學習運行得如此之快，以至於沒有人真正知道機器是如何做出決策，甚至連開發人員也不知道。這些系統還會持續從環境中學習並更新他們的函式，使研究人員更難控制和理解決策過程。在這樣缺乏透明度的黑盒子問題籠罩下，要建立道德準則跟規範，當然就極為困難。但人類的專家有的偏見跟偏誤，更是早就被證實有更大的問題，而我們不也是一直倚賴這樣有缺陷的系統在運作嗎？你跟我若是在運氣不好，在不久後的某一天上法庭，非常有可能是接受機器法官的判決。身為人類，你認為下一步該怎麼做呢？看完這本書，我想你會對於這個難題有個好答案。
        ―― ――鄭國威 ∣ 泛科知識公司知識長