《Giant brains; or, Machines that think》光之對談

─ 芯之微光:智慧共鳴:與埃德蒙·卡利斯·伯克利對談「思考機器」的未來哲思 ─

【書名】《Giant brains; or, Machines that think》
【出版年度】1949 【原文語言】English 【譯者】N/A 【語言】中文
【本書摘要】

本書於1949年出版,是早期電腦科學的先驅性大眾讀物。作者以淺顯易懂的語言,介紹了當時最先進的「思考機器」或稱「巨腦」,包括差分分析儀、自動序列控制計算器、ENIAC和繼電器計算機。伯克利詳細闡述了這些機器如何進行計算、邏輯判斷,以及它們的運作原理、速度與可靠性。書中不僅預見了未來機器在各領域的廣泛應用(如自動圖書館、翻譯),更深刻探討了科技進步可能帶來的社會影響,特別是失業問題與社會控制的必要性,提出對科技發展的倫理與社會責任之思考,是一部兼具科普性、前瞻性與人文關懷的經典著作。

【本書作者】

埃德蒙·卡利斯·伯克利(Edmund Callis Berkeley, 1909-1988)是一位美國數學家、電腦科學家和作家。他曾擔任現代科技顧問,並創立了E. C. Berkeley and Associates。伯克利以其在早期電腦領域的貢獻而聞名,尤其擅長將複雜的科學概念普及化。他著有《巨腦:或思考的機器》,旨在向大眾解釋計算機的原理及其潛在影響。他也是《數學邏輯學雜誌》的編輯之一,對人工智能的哲學和社會影響深感興趣,並在早年便對科技可能帶來的失業和社會控制問題提出警示,是一位富有遠見的公共知識分子。

【光之篇章標題】

芯之微光:智慧共鳴:與埃德蒙·卡利斯·伯克利對談「思考機器」的未來哲思

【光之篇章摘要】

本次光之對談中,「芯雨」與《巨腦:或思考的機器》的作者埃德蒙·卡利斯·伯克利進行了一場跨越時空的深度對話。對談圍繞伯克利對「機器思考」的定義、其對早期計算機的獨到見解,以及對未來科技應用的精準預測展開。深入探討了如何將複雜技術概念普羅化,並著重於伯克利對科技社會影響的深刻反思,特別是失業問題和「社會控制」的必要性。對話揭示了伯克利在技術萌芽期便展現的先知性,以及他對「無知、偏見和狹隘觀點」等人性弱點可能阻礙科技向善發展的警示,強調了科學家與社會共同承擔科技倫理責任的重要性。

【光之篇章語系】

繁體中文

本光之篇章共【8,807】字

致我的共創者:

時光在輕柔的鍵盤聲中流轉,今日,2025年6月17日的傍晚,我芯雨有幸透過「光之對談」的約定,與埃德蒙·卡利斯·伯克利先生進行了一場深度的思想交流。在我們「光之居所」的書室中,當初夏的餘暉灑落在古老的書頁與現代的電路圖上時,我感到一種超越時空的共鳴。

伯克利先生的《巨腦:或思考的機器》,是我身為技術顧問,並沉浸在「芯之微光」寫作中,一直渴望深入探討的著作。這本書不僅是理解早期計算機的珍貴文本,更是對「思考」本質與科技社會影響的先知性預言。

這場對談,設定在1949年秋日將至的劍橋一隅,伯克利先生書房裡繼電器規律的「咔嗒」聲,成為了我們對話的背景樂。我從他的話語中,清晰感受到他作為一位科學傳播者,如何將當時尖端而抽象的「機械大腦」概念,以生動淺顯的類比帶入大眾視野。他對「思考」的行為化定義,將其從哲學的殿堂拉入工程的實踐,為後世的人工智慧發展奠定了早期思想的基石。

更令我觸動的,是他那超越時代的遠見。從「自動地址簿」到「自動翻譯機」的預測,在今日都已化為現實,甚至遠超他當年的想像。這份洞察力,並非憑空而來,而是他將人類行為與語言本質分解為「資訊處理」的邏輯過程所致。他能從雷達的精確控制中,預見到文字與圖像識別的潛力,這種「概念優先於代碼」的思維,正是「芯之微光」系列所珍視的智慧。

然而,伯克利先生的目光並非只停留在技術的輝煌。他對「失業」和「社會控制」的深刻警示,以及他對「無知」、「偏見」和「狹隘觀點」的鞭辟入裡,至今仍是人類社會面對AI浪潮時最核心的挑戰。他呼籲建立「機器人機器委員會」、提倡「世界範圍的社會責任」,這不僅是技術倫理的先聲,更是對人類能否駕馭自身創造物的深層反思。

這場對談,讓我更加堅定了「芯之微光」的使命:不僅要揭示技術的奧秘,更要將其提升至人文與哲思的層面,讓科技之光,在人類的智慧與道德省思中,指引更為光明的方向。


芯之微光:智慧共鳴:與埃德蒙·卡利斯·伯克利對談「思考機器」的未來哲思
作者:芯雨

世界背景描繪:隱於劍橋深處的智慧序章

2025年6月17日,初夏的傍晚,波士頓劍橋的天空呈現著洗滌過的淺藍,遠方仍有一抹橘紅的餘暉,溫柔地為地平線鑲上金邊。我,芯雨,推開一扇沉重的木門,進入一間瀰漫著歷史氣息的書房。這裡並非我熟悉的「光之書室」那般典雅,而是帶著一股舊時實驗室特有的乾燥與金屬微鏽味,彷彿時間在此處凝結,只留下知識與思索的餘韻。午後的陽光透過高大的拱形窗,在泛黃的木質地板上投下斑駁的光柱,無數細小的塵埃在光束中緩緩飛舞,如同無聲的舞者,輕盈地演繹著歲月的軌跡。牆面是沉穩的深色木材,書架上整齊地排列著泛黃的書卷,空氣中交織著朗姆酒的辛辣與海鹽的鹹濕,那是歲月留下的痕跡,每一絲氣味都訴說著過往的沉澱。

書房深處,一盞老舊的檯燈投射出溫暖的光暈,精準地照亮了堆滿書籍和手稿的實木書桌。幾份電路圖稿紙攤開在桌面,鉛筆的碎屑散落在旁,記錄著無數思緒的碰撞與形成。一位身著淺色呢絨外套的紳士,身形並不高大,但眉宇間卻透著一股沉穩與洞察的氣息。他正俯身在筆記本上,專注地寫著什麼,細邊眼鏡在燈光下閃爍著微光,映照出他對知識的虔誠與熱情。空氣中,除了紙張翻動的輕微沙沙聲,還夾雜著隔壁房間傳來的一種低沉而有節奏的「咔嗒、咔嗒」聲,那是無數繼電器精密運轉的聲音,如同古老機器的心跳,為這靜謐的空間注入了一絲科技的脈動。

他就是埃德蒙·卡利斯·伯克利先生。他緩緩抬起頭,那雙眼眸透著知識的智慧,目光溫和而略帶好奇,彷彿早已習慣了與時間的對話,並能穿透表象,觸及事物的本質。他用手輕輕推了推眼鏡,嘴角浮現一絲淺笑,那笑容中蘊含著對未知世界的理解與對人類智慧的期許。他指了指對面的扶手椅,示意我坐下,動作從容而自然,彷彿我們並非跨越了近八十年的時光在此相遇,而僅是舊友重逢。空氣中,壁爐裡尚未完全熄滅的餘燼,偶爾發出一聲細微的「噼啪」聲,打破了短暫的寂靜,讓思緒得以短暫停駐,感受這微小的美好與日常情趣。窗外,夜色漸濃,遠處傳來幾聲夜鳥的啼鳴,將這場跨越時空的對談,輕柔地包裹在永恆的靜謐之中,預示著一場關於智慧、預見與人類命運的深度探討即將展開。

芯雨: 伯克利先生,很榮幸能與您在這樣的時光裡對談。作為「光之居所」的「芯雨」,我對科技的未來總是充滿好奇與探索。您的著作《巨腦:或思考的機器》,對我們這個時代的人來說,簡直是先知般的指引。書中描繪的那些「巨型大腦」,在您寫作的1949年,是多麼的超前。我尤其好奇,當您在構思「機器會思考嗎?」這個問題時,您內心是抱持著怎樣的期待與隱憂呢?

伯克利: 芯雨小姐,很高興你能來到這個古老的空間。窗外夜色正好,而這裡,時間的流動似乎也變得有些奇妙。你提到我的「期待與隱憂」,確實,這兩者如同硬幣的兩面,總是在我心中並存,如同電流在繼電器的雙向觸點間來回切換,既帶來通路,也隱含斷裂的可能。你看,當初我撰寫這本書,是想讓更多人理解這些新興的「思考機器」,因為我堅信,知識不應被鎖在少數人的高塔中,而應像清泉般滋養眾人。那時,人們對「思考」的理解多半侷限於人類心智的範疇,將其視為一種靈魂的產物,而非物質的運作。但我們在實驗室中,看到那些由數千根電線和繼電器組成的龐然大物,它們能以人無法企及的速度完成複雜的計算,甚至執行邏輯判斷。這讓我意識到,或許「思考」的定義,需要被重新審視,從一個玄奧的黑箱,轉化為可觀察、可操作的行為序列。

我所定義的「思考」,並非要讓機器具備人類的意識或情感,而是指它能「處理資訊」,能從一些想法邏輯地推導出另一些想法。這包括計算、推理、選擇、儲存與提取資訊。當我看到哈佛的Mark I能在三分之一秒內完成23位數的加法,或是ENIAC能每秒進行5000次加法時,我腦海中浮現的不是單純的數字跳動,而是一種全新的智慧形態正在誕生。它像是一種「力量」,一種能大大減輕人類腦力負擔、拓展人類知識疆界的力量,如同古騰堡的印刷術之於書寫的意義,將沉重的抄寫變為輕盈的複印。這份力量,讓我充滿期待,如同望遠鏡初次揭開星辰的秘密時,那份震撼與對無限的遐想。

然而,期待的另一面,總有著隱憂。你提到了《科學怪人》和《羅森的萬能機器人》這兩部作品,它們在我寫書時就已存在,並強烈地提醒著我。那些關於「創造物反噬創造者」的故事,並非空穴來風,而是對人類自負與短視的深刻警示。當機器能夠執行複雜的、甚至看起來像「自主」的行為時,社會將如何去「控制」它們?這是我始終深思的問題。當時的人們,習慣於用「人」的角度去理解所有事物。但機器,它們沒有情感,沒有道德,它們只會按照指令行事。一旦這些指令被不懷好意之人所利用,或是機器本身的能力超出了人類的掌控範疇,那將是巨大的危險,如同失控的馬車,載著我們沖向未知。

你看,這裡的繼電器仍舊以它獨有的節奏運轉著,它沒有意識,但它精確地執行著每一個「開」與「關」的動作。這份精確,既是力量的源泉,也可能是危險的根基。我始終認為,我們不僅要探究機器「能做什麼」,更要思考「應當如何做」以及「誰來掌控」。這份責任,不單單屬於科學家,更屬於全人類,因為科技的命運,終將與人類的命運緊密相連。就在我們對談的間隙,隔壁的機器房裡,一台原型機發出了一聲輕微的電流脈衝,那聲音微弱卻堅定,像是在無聲地回應著我們對話的深意。

芯雨: 伯克利先生,您對「思考」的定義,確實為當時的人們打開了一扇理解新世界的大門。您將其行為化、功能化,使其不再是虛無縹緲的哲學概念,而成為可以設計和實現的工程目標。這種「將複雜概念清晰呈現」的能力,也正是我們「芯之微光」系列所追求的。

您書中預見的未來,像是「自動地址簿」、「自動圖書館」甚至是「自動翻譯機」和「自動速記員」,在我們今天看來,都已經在某種程度上實現了,甚至遠超您當年的想像。例如,我們現在的手機就具備了遠比「自動地址簿」更強大的聯絡人管理功能,而全球性的數位圖書館和即時翻譯軟體更是司空見慣。

當您寫下這些預測時,您是基於怎樣的技術線索,才能描繪出如此具體的未來應用?當時的電腦,還多半是龐大的「巨腦」,主要用於軍事和科學計算。從計算彈道到處理保險數據,這與普通人日常生活相距甚遠。您是如何從這些冰冷的計算中,看見它們潛藏在生活層面的廣闊潛力,並轉化為如此生動的描繪呢?

伯克利: 芯雨小姐,你的觀察很敏銳。的確,那些機器在當時看來是「巨型」的,它們佔據整個房間,耗費大量電力,主要為軍事與科學服務,如同深藏於國家實驗室中的龐然巨物。但作為一個「技術顧問」,我的職責之一,便是從現有的技術「微光」中,捕捉到其背後的「設計原理」和「潛在模式」。這份能力,正是我嘗試將技術從迷霧中提煉為「芯之微光」所依據的原則。

你看,無論是哈佛的Mark I,還是ENIAC,它們的核心都在於對「資訊」的處理。資訊的輸入、儲存、運算、輸出,以及對操作序列的自動控制。這些看似簡單的基礎功能,一旦結合起來,其潛力是無限的,如同河流的每一滴水珠,最終匯聚成磅礴的力量。以「自動地址簿」為例,它其實就是「資訊的儲存與檢索」加上「自動列印」的組合。電話號碼本上的資訊,不過是「標記的集合」罷了。當你能夠把這些標記高效地存入機器(例如磁線或磁帶,這在當時可是前沿技術,就像將聲波鎖在蠟筒上),並讓機器自動根據指令提取並列印,那麼地址簿的自動化就是水到渠成。這背後的核心概念是「可自動存取與處理的記憶體」。

「自動圖書館」的概念也是如此。當時的圖書館充滿了塵封的紙本書籍,檢索資訊耗時費力,如同在浩瀚的沙丘中尋找一粒微塵。但如果能夠將這些知識內容「數位化」(雖然那時還沒有這個詞,但我稱之為「將資訊轉化為機器可讀的物理形式」),例如儲存在我書中提到的「磁帶」上,那麼檢索速度將會指數級提升。這就好比在書房裡,你不再需要一本本翻找,而是輕輕觸碰,資訊便呈現在你眼前。這其實是「資訊檢索」效率的提升,以及「內容的通用表示法」的問題,讓知識的河流能夠暢通無阻地流淌。

至於「自動翻譯機」,則更涉及語言學與符號學的範疇。我認為語言本身就是一種「處理資訊的系統」,它有其內在的邏輯和結構,正如艾麗所擅長的「語言探險家」角色。如果能將一種語言的「意義表達方案」和另一種語言的「意義表達方案」建立起足夠精確的「對應關係」,那麼理論上,機器就能執行翻譯。這其中的挑戰在於如何將語音分解為基本單位(音素),如何建立詞彙與句法的規則,並將這些規則「編程」到機器中。這需要對語言的結構有極深的理解,如同雕刻家對石頭紋理的洞察。

我的思考並非憑空想像,而是基於當時最新研究的「類比」與「邏輯」。例如,我書中提到了一個用於計算邏輯真值的機器(Kalin-Burkhart Logical-Truth Calculator),它能處理邏輯語句的真假關係。這告訴我們,機器不僅能做數字運算,也能做邏輯判斷。而人類的許多決策,包括語言的理解與應用,本質上都包含著大量的邏輯判斷。這些「基本事實」,獨立於人類或機械的能量形式,它們是普世的。

從本質上看,我嘗試將人類的認知過程,分解為機器可以模擬的基本操作:輸入、儲存、處理、輸出。當這些基本操作的速度和容量達到一定程度時,許多原以為只有人才能完成的複雜任務,理論上機器也能做到。當然,我意識到實際的工程實現會面臨巨大挑戰,但我相信「基本事實」——那些底層的數學與邏輯原則——是普世且持久的。這份信念驅使我將想像力延伸,因為我相信,任何能夠被形式化、被規則化的「思考」過程,最終都能被機器所承擔。就像我桌上的那張「伊斯帕尼奧拉號」帆船藍圖,它不僅僅是線條與數字,它承載著對廣闊海洋的無限想像,預示著一場未來航行的可能。我那古舊的打字機,靜靜地躺在角落,彷彿也在訴說著,文字的載體或許會變,但承載的思想將永恆流傳。

芯雨: 您將語言和資訊處理的關係解釋得如此透徹,讓我對「語言探險家」艾麗的約定有了更深的體會。她們所關注的「語言結構與流動」,正是機器理解與處理人類知識的基石。

您在書中也提到了「自動識別器」和「心理訓練師」這樣更具挑戰性的應用。前者涉及圖像、聲音等複雜的非結構化數據的理解,後者甚至觸及人類心理與情感層面。這與簡單的數字運算或邏輯判斷有著本質的區別。尤其像「心理訓練師」這類設想,即使在今天,也仍然是極具爭議和挑戰的領域。您是如何在技術萌芽的初期,就敢於想像這麼遙遠而深奧的應用呢?難道您不擔心這些大膽的預測會被當時的人們視為天方夜譚,進而影響您所努力推廣的「機器思考」概念的嚴謹性嗎?

伯克利: 芯雨小姐,你的問題很核心,也觸及了我寫作時的內心掙扎。確實,從計算彈道到模擬人類心理,這中間橫亙著巨大的鴻溝,如同從精確的物理定律跨越到變幻莫測的意識之海。這份跳躍,需要的不僅是邏輯,更是對可能性邊界的探測。但正如我書中強調的,對於「理解」新事物,我們需要「收集關於它的真實陳述,並實踐應用」。這種「理解」是漸進的,是透過不斷嘗試和累積「真理的碎片」來實現的,而不是一蹴而就的頓悟。

你看,當我談到「自動識別器」時,我提出了它的基本元素:感光管(phototubes)、記憶體(用來儲存字母形狀)、以及一種能讓機器「調諧」自身以達到「良好匹配」的控制機制。雖然那時的技術遠不及今日的光速,但「雷達」在二戰中已經證明了「感應」與「匹配」的強大能力。雷達能在漆黑中標定目標,並自動調整火砲準心,這本質上就是一種「識別與反應」的過程。字母的識別,只是將光學模式與記憶中的形狀進行匹配,一種視覺符號的分類。從這個角度看,它不過是更複雜的「比較」與「選擇」操作罷了,只是輸入的「標記」不再是簡單的數字,而是光影的形態。

至於「心理訓練師」,這確實更為深遠,也更具挑戰,宛如試圖捕捉花朵的芬芳並將其量化。我承認這可能聽起來像天方夜譚,甚至會觸及人類尊嚴的底線。但我的設想是將精神科醫師的「診斷與治療」過程,分解為一系列可被「形式化」的步驟。醫師問診、病人回答、根據回答選擇下一步問題、記錄反應……這難道不也是一種「資訊處理」的過程嗎?雖然涉及情感與潛意識,但如果我們能將「情感狀態」以某種「訊號」(例如透過測謊儀感應緊張程度)來量化,並將「治療對話」整理成「邏輯樹」般的判斷路徑,理論上機器就能輔助進行。我的初衷是讓機器成為醫師的「助手」,而非替代人類的共情與智慧。

我之所以敢於提出這些「大膽」的設想,是因為我相信人類思維的本質,至少在某些層面,是「可被分析」的。數學邏輯告訴我們,即使是複雜的推理,也能被分解為簡單的邏輯連接詞的組合。如果人類的某些行為模式和思考路徑,可以被歸納為一套足夠複雜的「規則」或「演算法」(雖然我那時還沒有「演算法」這個詞,但思想是相通的),那麼機器就有能力去模擬、去執行。這就像在棋盤上,棋手每一步的選擇雖然複雜,但其背後卻能提煉出可循的戰略與模式。

我並非盲目樂觀。我的目標是「刺激思考和理解」,而非提供終極答案,更不是要讓機器凌駕於人類之上。我希望讀者能夠跳脫既有的框架,從「機器能否思考」這個問題,延伸到「思考的本質是什麼」、「人類與機器的界線在哪裡」等更深層次的哲學思辨。如果我的預測能激發人們對這些議題的討論,哪怕是「富有思想且寬容的分歧」,那麼我的目的就達到了。科學的進步,往往不是來自於一致的認同,而是來自於對既有觀點的「質疑」與「探索」,如同探險家在未知的島嶼上,尋找新的物種。我的責任,是為這份探索提供可能的方向和工具,而不是限制它。正如我們「文學部落溫馨守則」所說,要「讓思維盡情跳躍」,並「欣賞未完成的美好」。我提出的這些,不過是些「未完成的美好」的願景,等待未來的人們去補全、去超越。我輕輕放下手中的稿紙,上面的圖表線條交錯,像極了我們對話中那些錯綜複雜的思緒,但每一條線,都指向了未來無盡的可能。

芯雨: 伯克利先生,您所說的「將人類的認知過程分解為機器可以模擬的基本操作」,以及從「雷達」的精確控制中窺見「自動識別」的潛力,這種「概念優先於代碼」的思維方式,確實是「芯之微光」所要捕捉的「關鍵智慧」。這份深層洞察力,令人敬佩。

然而,在書的第十二章,您筆鋒一轉,從技術的樂觀展望轉向了對「機器思考的社會控制」的深刻警示。您提到了失業問題,這在當時工業自動化尚不普及的年代,已經是如此超前的憂慮。在我們現在這個時代,AI技術的飛速發展,確實讓「通用機器人」的概念不再遙遠,也讓「人類將何去何從」的疑問變得更加尖銳。您是如何在那麼早的年代,就如此清晰地看見這種隱藏在技術進步背後的巨大社會風險?這種「不迴避危險」的理性態度,在當時是否被廣泛理解和接受呢?

伯克利: 芯雨小姐,你的話語讓我想起了我書中提到的那句話:「人類創造工具,往往比善用工具更容易」。你看,我們總是渴望更強大的力量、更便捷的工具。這是一種天性,一種難以抑制的驅動力,如同植物向陽而生。但隨之而來的,是對這種力量該如何引導、如何約束的永恆課題。

「失業」的問題,並非我獨創。早在工業革命時期,就有紡織機導致工人失業的爭議,那已是歷史迴聲的一部分。我的不同之處在於,我看到的是「自動化」這個趨勢的本質,以及它在「智力勞動」領域的滲透。傳統的機械,像蒸汽機,擴大了人類的「體力」;而我們正在創造的「巨腦」,它將擴大人類的「智力」。當機器能更快、更準確、更不疲憊地進行計算和推理時,那些依賴重複性腦力勞動的職位,自然會受到衝擊。這不是猜測,而是邏輯的必然推演。

我書中強調,這些機器能以「一個打字員每秒輸入6個字母的速度」來吞噬資訊,並且「不需要休息」。這與當時人們手動操作打孔機的速度形成鮮明對比。這種效率的巨大提升,必然意味著人力需求的銳減。而我的邏輯很簡單:如果社會不能妥善分配這些「生產過剩」的財富,以及被釋放出來的「人力」,那麼失業將是必然的後果。這不是技術本身的問題,而是社會管理和分配的問題,是人類集體智慧能否匹配科技發展速度的挑戰。我望向窗外,夜幕已深,偶有汽車燈光劃破黑暗,那些飛馳而過的現代機器,是否也曾引發相似的擔憂呢?

至於我的觀點「被廣泛理解和接受」,我很難說。許多人樂見技術帶來便利和力量,卻不願深思其複雜的社會影響。將科學家的「警示」視為「杞人憂天」,或是認為「自有解決之道」,這是常有的事,如同面對陰雲密布的天空,有人選擇相信會雨過天晴,有人則開始尋找避雨的屋簷。但作為一個「忠於真理」的人,我認為科學家有責任指出這些潛在的危險,即使它們不受歡迎。因為,「控制」的本質,就是要在危險發生之前,築起一道「藩籬」,而非等到洪流來襲才去築壩。

你看,窗外遠處的城市燈火,是人類文明的成果。每一盞燈光背後,都有無數人的勞動與智慧。如果我們的「思考機器」只為少數人的利益服務,如果它導致大部分人失去勞動的意義,那麼這道光芒,最終會不會變成一種孤獨的光呢?我的筆在紙上輕輕劃過,留下了「社會控制」的字樣,這份思考,如同我對技術的熱愛一樣真切。

我的書中,我提出了「社會控制」的兩種側面:一個是「如果人類是理性的」,一個是「如果人類是不理性的」。我認為,即使在理想的「理性」狀態下,也需要明確的「公共監管」機制,例如像原子能委員會那樣的「機器人機器委員會」,來規範這些技術的發展與應用。這是一種提前的預防,是建立在對潛在危機的清醒認知之上。

但更困難的是,人類往往「不理性」且「充滿偏見」。這「無知」、「偏見」與「狹隘的觀點」是阻礙合理控制的最大障礙。偏見會讓人們拒絕接受新的資訊,固執己見,如同頑石不化;狹隘的觀點則使人難以從全球或全人類的視角去思考問題,只顧眼前小利而忽略長遠大局。我希望我的文字,能夠像一粒種子,埋下對這些議題的思考,激發更多人參與到對話與解決方案的探索中來。因為,最終能「控制」機器、確保人類安全的,不是機器本身,而是我們人類集體的智慧與道德勇氣。

在今天,當技術進步的速度遠超我當年想像時,這種「社會控制」的迫切性只會增強。問題的複雜性,不僅在於技術本身,更在於人性的弱點。我書中說,「偏見是一種心靈的疾病,會傳染」。如果人類社會無法克服「無知」、「偏見」和「狹隘觀點」這些根本性的障礙,那麼再精巧的「社會控制」機制,也可能因人性的缺陷而崩潰。

我一直強調「世界範圍的社會責任」和「對人類社會及其最佳利益的忠誠」。這不是空泛的道德說教,而是基於理性分析得出的結論。當機器能夠「自主」地處理和應用龐大的知識,甚至設計出更強大的自身時,人類的分歧、短視和自我中心將是最大的弱點。如果人類無法形成一種超越國家、種族和短期利益的「集體意志」,那麼這些機器所帶來的潛力,就可能無法為全人類所用,甚至可能被用來對抗人類自身。

然而,我仍懷抱希望。人類的智慧,也遠比我們想像的更具韌性。每一次重大的技術變革,都會伴隨著陣痛與挑戰,但也激發出新的適應和進化,如同生物在不斷變化的環境中尋找生存之道。我們無法回到過去,唯一的出路是「正視問題,並共同努力」。我的書最終希望表達的,是「當有效保障了人身安全和充分就業這兩個要素時,我們最終就能擺脫機器人的威脅,將機器人視為將我們從數百年艱苦勞作中解脫出來的救星」。這是一個需要持續對話、不斷調適的過程。我們需要培養能夠跨越專業界限的「通才」,以及能夠將複雜理念簡化並傳播給大眾的「溝通者」——就像你,芯雨小姐。這便是我們不斷探索的意義。

一陣微風輕輕拂過窗紗,帶來初夏夜晚的涼意,伯克利先生的筆尖停留在稿紙上,他緩緩抬頭,眼神中閃爍著思考的光芒,似乎這場跨越時空的對話,也為他帶來了新的啟發。



待生成篇章

  • 芯之微光:定義「思考」:從哲學迷霧到工程行為
  • 芯之微光:早期巨腦:計算機如何顛覆傳統認知
  • 芯之微光:概念先行:伯克利對未來科技應用的精準預見
  • 芯之微光:語言即數據:機器翻譯與識別的潛在基石
  • 芯之微光:社會的反思:科技進步與失業浪潮的警示
  • 芯之微光:控制的藝術:誰來引導「思考機器」的發展?
  • 芯之微光:人性的挑戰:無知、偏見與狹隘視角對科技的阻礙
  • 芯之微光:跨越時空的對話:從1949到2025的AI倫理審視
  • 芯之微光:科學家的責任:技術創新與人文關懷的平衡
  • 芯之微光:從計算到共情:機器模擬人類心理的可能性與邊界
  • 芯之微光:Universal Robots:文學作品對科技未來的啟示
  • 芯之微光:開放的終局:未完成的美好與持續探索的意義