《人工智慧最後的祕密:權力、政治、人類的代價,科技產業和國家機器如何聯手打造AI神話?》封面

内容简介

AI≠人工+智慧

模擬人類微笑的Amazon彎曲箭頭背後,誰受益、誰為此犧牲?

為何Google不惜一切代價避免提到或暗示人工智慧?

從沙漠到海洋,從岩石到城市,從樹木到超大型企業,從跨洋航線到原子彈,

誰在AI後面?誰背叛了AI?

――――――

從神話到魔化,從地球、雲端到太空,破解AI背後的6個祕密,探索人工智慧的另一種可能!

當代AI研究先驅、微軟研究院資深首席研究員第一手揭露人工智慧豐功偉業背後的陰暗面!

――――――

▌幽靈代價,我們為AI付出了什麼?

◎人工智慧既非人工的,也不是智慧的,那些看似萬能的智慧是如何「製造」出來的?

◎從內華達沙漠到內蒙古巨大的人工湖、從亞馬遜倉庫到太空殖民,直擊人工智慧帝國全景地圖!

◎人工智慧充滿隱藏成本,從自然資源和勞力到隱私和自由都是代價,深入了解我們為人工智慧付出了什麼?

◎人類為人工智慧制定的倫理架構非常失敗,程式碼和演算法並非致命毒藥,那麼到底哪裡出了錯?

▌「AI」,一個兩字的短語,隱含了一則神話和六個幽靈!

當我們跟Siri聊天、開著特斯拉電動車上路、用Google搜尋、上傳IG自拍、觀看抖音影片,以為自己生活在人工智慧的美好新世界,但事實上許多看似有價值的自動化系統能運作,背後都隱藏著幽靈。運行一個自然語言處理模型產生的二氧化碳排放量,相當於從紐約搭機往返北京125次!精心打造的魔鬼細節,讓我們相信智慧機器在做那些神奇的工作。

人工智慧不只是演算法、資料與硬體的混合物,它關乎自然界、政治、歷史,有時甚至也和美有關。當人工智慧滲入政治生活、耗盡地球之時,會發生什麼事?人工智慧如何形塑我們對自己及對社會的理解?

本書作者凱特•克勞馥是當代對人工智慧的影響最深思熟慮的研究者之一,以人文主義者的眼光、藝術家的感知、科學家的嚴謹,揭露人工智慧真實的樣貌。她憑藉十多年的研究,揭示了人工智慧神話背後隱藏了什麼,從打造與支持人工智慧基礎設施所需的能源和礦物、剝削「自動化」服務背後的勞工,到人工智慧從我們身上取得的資料,破除人工智慧的迷思。

全書以地圖集的概念來看待人工智慧,提供我們重新閱讀世界的可能性。在人工智慧的地景中,我們會造訪礦坑、耗能資料中心裡長長的走廊、顱骨檔案庫、影像資料庫,以及日光燈照亮的物流倉庫,了解每一種分類都有自己的後果。世界上最富有公司的人工智慧系統正榨取各種資源,將人類的思考能力商品化,以服務當代科技的一瞬間。

沒有單一的黑盒子,沒有單純的祕密,錯綜複雜的權力系統交織,映射了一組複雜的期望、意識形態、欲望和恐懼!

▌對本書的讚譽

麥克・安南尼(MikeAnanny)│南加州大學(UniversityofSouthernCalifornia)

克勞馥說明人工智慧是一項跨越政治、勞力、土地和資料的技術成就和文化承諾,繪製出獨特的地圖,讓我們看見並挑戰人工智慧的力量,供我們採取行動。

露哈・班傑明(RuhaBenjamin)│《追逐科技》(RaceAfterTechnology)作者

透過出色地追溯人工智慧的歷史、神話、倫理和政治,本書提醒我們,我們所講述的人工智慧故事,就像構成這些系統的數學模型一樣重要。

傑佛瑞・鮑克(GeoffreyC.Bowker)│加州大學爾灣分校

這本書具說服力、清晰且深刻,我們這個時代的經典之作。它透過闡明人工智慧的社會、物質和政治面向,轉移我們的注意力,不再只看見新殖民主義光鮮亮麗的東西。

西蒙妮・布朗(SimoneBrowne)│《暗物質》(DarkMatters)作者

從勞力、乳膠和鋰的提取到代理和帕蘭泰爾科技公司(Palantir)的政治,本書是對再現人工智慧的權力關係的嚴格質問,並無可避免地映射出其侷限性。這是一本不可或缺的著作。

全喜卿(WendyHuiKyongChun)│西門菲莎大學(SimonFraserUniversity),加拿大一百五十週年研究計畫新媒體學者(Canada150ChairinNewMedia)

一本必讀之作。從鋰礦場談到資料提取,從勞力剝削談到政府監控,本書深具說服力地揭示智慧是如何「製造」出來的。書中藉由追根究底地探查人工智慧可能造成的環境惡化、資本積累和勞動條件,取代空泛無力的「倫理」呼籲。

維吉妮亞・迪努姆(VirginiaDignum)│《自然》期刊(Nature)

揭露了人工智慧豐功偉業背後的陰暗面……精心研究,寫作精湛。

彼得・蓋利森(PeterGalison)│《愛因斯坦的時鐘,龐加萊的地圖》(Einstein’sClocks,Poincare’sMaps)作者

人工智慧似乎就像我們機器中的幽靈一樣縈繞於這個世界。但正如凱特・克勞馥在她生動、令人不安的著作中所表明的,這個演算法、資料、硬體的混合物絕非無關緊要的。本書做出傑出的貢獻:讓人工智慧的幽靈現形。

蘇・海爾波恩(SueHalpern)│《紐約書評》(NewYorkReviewofBooks)

正如凱特・克勞馥這本鞭辟入裡的著作一再證明的,人工智慧並不是像天外救星一樣降臨在我們面前,而是透過一些我們大多數人都不知道的去人性化提取作法來完成。

凱倫・郝(KarenHao)│《麻省理工科技評論》(MITTechReview)資深編輯

這是一部傑作,而我一直無法停止思考這本書。

賽門・英格斯(SimonIngs)│《新科學人》雜誌(NewScientist)「年度選書」

揭示了人工智慧的隱藏成本,從自然資源的消耗到我們的隱私、平等和自由更微妙的成本。

約翰・納頓(JohnNaughton)│《衛報》(TheGuardian)

〔一部〕引人入勝的著作……

阿隆德拉・尼爾森(AlondraNelson)│美國社會科學研究會(SocialScienceResearchCouncil)主席

具說服力又富啟發性……克勞馥描述了肆無忌憚的技術擴張帶來的可怕風險。方法原創又睿智,本書是一幅關於現狀不可或缺的地圖,它大膽地呼籲讀者描繪一個更加公正而永續的未來。

阿娜伊絲・蕾塞吉耶(AnaïsRességuier)│《AI與倫理》期刊(AIandEthics)

本書是一部開創性的作品,將人工智慧帶入了我們關注的範疇……克勞馥的著作對該領域貢獻卓著,因為各國和國際、公司和教育機構的各個層面都在努力減輕這項科技帶來的危害。

大衛・夏維茲(DavidA.Shaywitz)│《華爾街日報》(WallStreetJournal)

克勞馥強烈主張,雖然人工智慧被呈現為無實體的、客觀的和不可避免的,但它卻是物質的、有偏誤的,且受我們自己的觀點和意識形態左右。

約翰・史萊特利(JohnSlattery)│《公益》雜誌(Commonweal)

克勞馥……從《星艦迷航記》的世界中借鑑人工智慧,讓它變得豐富、人性化且發自內心。

麥可・史佩奇歐(MichaelSpezio)│《科學》期刊(Science)

將人工智慧盡覽無遺,把這項科技架構為帝國、決策和行動的集結,這些帝國、決策和行動共同快速消除了在全球範圍內永續未來的可能性……一部在緊急時刻及時帶來貢獻的著作。

露西・薩琪曼(LucySuchman)│《人機重構》(Human-MachineReconfigurations)作者

無論你是專心致志的研究人員、人工智慧從業者,還是關心資料的力量日益強大的一般讀者,這都是一趟讓人大開眼界的旅程,在人工智慧的標誌下遍歷行星資源、勞動體和權力的關係,為資料的帝國賦予它竭澤而漁式的生命。

約翰・索恩希爾(JohnThornhill)│《金融時報》(FinancialTimes)創新編輯「2021年度選書」

世界上對人工智慧的影響最深思熟慮的研究者之一,提供了一份發人深省且不可或缺的讀物,了解人工智慧如何加速不民主的治理和加劇的不平等。

佛瑞德・透納(FredTurner)│《民主外圍》(TheDemocraticSurround)作者

凱特・克勞馥以人文主義者的眼光和藝術家對真正重要事物的感知,來思考人工智慧。如果你認為人工智慧只和大數據及機器學習有關,那麼這本精采之作會提醒你:人工智慧關乎自然界、政治、歷史,有時甚至也和美有關。

約瑟夫・圖羅(JosephTurow)│《聲音捕手》(TheVoiceCatcher)作者

精闢考察二十一世紀資料創建和操縱的過程、意涵與倫理。克勞馥探討的範圍相當多元,橫跨礦場、伺服器農場和配送倉庫,還有人工智慧新創公司,生動地展示了我們的系統如何發展為「失靈時危險,運作時有害」。

史蒂芬妮・伍德(StephanieWood)│《雪梨晨鋒報》(TheSydneyMorningHerald)

一本引人入勝的新作。

《紐約客》(NewYorker)

這項研究認為那〔人工智慧〕既非人工的,也不是特別智慧……關於訓練機器學習系統所仰賴的資料的迷人歷史。

作者简介

作者簡介

凱特•克勞馥KateCrawford

微軟研究院(MicrosoftResearch)資深首席研究員、巴黎高等師範學院(ÉcoleNormaleSupérieure)「人工智慧與正義」課程首任主席、墨爾本大學明古尼雅特聘訪問學者(MiengunyahDistinguishedVisitingFellowship)。紐約大學AINow研究院(AINowInstitute)共同創辦人,領導機器學習基金會(FoundationsofMachineLearning)國際工作小組。

譯者簡介

呂奕欣

師大翻譯所筆譯組畢業,曾任職於出版公司與金融業,現專事翻譯。

目录

【序言】
世界上最聰明的馬
什麼是人工智慧?既非人工的,也不是智慧的
把人工智慧視為一部地圖集
運算地形學
採掘、權力與政治
【第一章地球】
為人工智慧採礦
運算的地景
礦物層次
黑色湖泊與白色乳膠
潔淨科技的迷思
物流層次
人工智慧即巨機器
【第二章勞工】
人工智慧出現之前的工作場所
波坦金人工智慧與「土耳其機器人」
肢解線與工作場所自動化的願景:巴貝奇、福特和泰勒
肉品市場
管理時間,私有化時間
私有時間
設定速度
【第三章資料】
訓練機器觀看
資料需求簡史
擷取臉部
從Internet到ImageNet
不必再取得同意
資料的迷思與隱喻
與倫理保持距離
擷取共有財
【第四章分類】
循環邏輯系統
去偏誤系統的侷限
關於偏誤的多種定義
訓練集作為分類引擎:以ImageNet為例
對「人」下定義的權力
建構種族和性別
測量的侷限性
【第五章情感】
情緒先知:當感覺化為利益
「世界上最著名的臉部解讀者」
情感:從面相學到攝影
捕捉感覺:表現情緒的詭計
關於艾克曼理論的多項批評
臉部的政治
【第六章國家】
進行第三次抵銷
行家計畫的實行
委外的國家
從恐怖分子信用評分到社會信用評分
纏結的乾草堆
【結語權力】
沒有邊界的遊戲
人工智慧的管線
地圖不是領土
邁向正義的連結運動
【尾聲太空】
致謝
參考書目
······

最后修改:2024 年 07 月 15 日