人工智能的邏輯極限
來源:哲學園 發(fā)布時間:2019-11-04
老蟬按:今日一篇文章《丘奇—圖靈論點與人類認知能力和極限》與劉曉力老師的文章觀點不同,本人在《丘奇...》文中有點評。歡迎閱讀。
人工智能的邏輯極限
劉曉力
作者簡介:北京師范大學哲學系,北京 100875
人大復印:《邏輯》2002 年 02 期
原發(fā)期刊:《哲學動態(tài)》2001 年第 .增刊 期 第 22-25 頁
關鍵詞: 人工智能的極限/ 哥德爾定理/ 認知可計算主義/ 認知的算法不可完全性/
摘要:“人的智能和人工智能的極限”已列入21世紀需要解決的重大數(shù)學問題清單,本文試圖從 邏輯的角度對人工智能的極限問題進行探討,特別指出哥德爾定理與人工智能極限之間的關 系,并對人工智能的“認知可計算主義”研究綱領提出質(zhì)疑。
1.斯梅爾第十八數(shù)學問題
過去幾十年計算機技術的巨大成就正在向人類智能發(fā)起挑戰(zhàn)。“電腦能否代替人腦”,“ 人類心智是否會永遠勝過計算機”,“哥德爾不完全性定理是否設定了人工智能不可克服的 邏輯極限”?這是哲學家和人工智能專家及其反對者們激烈爭論的話題。
哥德爾不完全性定理是為了解決1900年希爾伯特提出的20世紀需要解決的23個數(shù)學問題之 一所得的數(shù)學結(jié)果。事隔100年,曾任美國數(shù)學會主席的斯梅爾又向全世界數(shù)學家提出了21 世紀需要解決的24個數(shù)學問題,其中的第18個問題是,“人類智能的極限和人工智能的極限 是什么”?并且指出,這個問題與哥德爾不完全性定理有關。
哥德爾定理告訴我們:在任何包含初等數(shù)論的形式系統(tǒng)中,都必定存在不可判定命題。有 了圖靈機概念之后,它的一個等價命題是,任何定理證明機器都至少會遺漏一個真的數(shù)學命 題不能證,這就是數(shù)學的算法不可窮盡性。這一性質(zhì)被許多人用來作為“在機器模擬人的智 能方面必定存在著某種不能超越的邏輯極限”的論據(jù)。
那么,哥德爾定理與人工智能的極限之間究竟有什么關系?哥德爾本人對此如何評價的?人 工 智能是否存在它的邏輯極限?
2.人工智能研究現(xiàn)狀
人工智能方案起于20世紀40年代后期。1936年圖靈首先以“圖靈機”概念對算法概念給予 數(shù)學刻畫,1950年又在《計算機器與心智》中提出“機器能思維嗎?”這一重要問題,并設 計了“圖靈測驗”,為人工智能的研究提供了某種理論依據(jù)和檢驗方法。1948年維納創(chuàng)立“ 控制論”,研究動物與機器中的控制和通訊的反饋控制原理及信息傳輸、信息交換和信息加 工過程等規(guī)律。1954年艾什比出版《大腦的設計》,開辟了以行為模擬的觀點研究人工智能 的途徑。1956年夏季,人工智能的先驅(qū)者麥卡希、明斯基、香農(nóng)等人發(fā)起,在美國達特茅斯 大學舉辦“如何用機器模擬人的智能”學術會議,正式使用“人工智能”術語,成為這門新 的研究領域誕生的標志。從此以后,人工智能的研究分別沿著三個方向深入:
(1)機器思維方向;包括機器證明、機器博弈、機器學習啟發(fā)程序及化學分析、醫(yī)療診斷、 地質(zhì)勘探等專家系統(tǒng)及知識工程的問世。(2)機器感知方向;包括機器視覺、機器聽覺等文 字、圖象識別、自動語言理解的理論、方法和技術以及感知機和人工神經(jīng)網(wǎng)絡的研究。(3) 機器行為方向;包括具有自學習、自適應、自組織特性的智能控制系統(tǒng)、控制論動物和智能 機器人的研究開發(fā)。
半個世紀以來,人工智能在理論研究和實踐過程中,大致經(jīng)歷了三大研究綱領的變遷:
(1)符號主義學派主張思維的基本單元是符號,智能的核心是知識以及利用知識推理進行問 題求解,智能活動的基礎是物理符號運算,人腦、電腦同樣都是物理符號系統(tǒng),人的智能可 以通過建立基于符號邏輯的智能理論體系來模擬;(2)聯(lián)結(jié)主義學派斷言智能活動的基本單 元是神經(jīng)細胞,智能活動過程是神經(jīng)網(wǎng)絡狀態(tài)的演化過程,智能活動的基礎是神經(jīng)細胞之間 的突觸聯(lián)結(jié)機制,智能系統(tǒng)的工作模式是神經(jīng)網(wǎng)絡模式,智能系統(tǒng)理論是基于非線性動力學 的系統(tǒng)論;(3)行為主義學派堅信智能行為是以“感知-行動”的反應模式為基礎,智能水平 可以而且需要在真實世界的復雜境域中進行學習訓練,在與周圍環(huán)境的信息交互作用與適 應過程中不斷進化和體現(xiàn)。
盡管1965年人工智能的領袖人物西蒙就曾預言,“20年內(nèi),機器將能做人所能做的一切。 ”1977年明斯基也曾預言,“在一代人之內(nèi),創(chuàng)造人工智能的問題將基本解決。”但是,幾 十年里,雖經(jīng)研究綱領的幾次變遷,但三大派研究綱領仍未超出“認知可計算主義”的核心 ,因此在人工智能領域至今沒有出現(xiàn)真正的革命性突破,而且人工智能的發(fā)展不時地陷入不 曾預想到的各種困難。顯然,關鍵之點仍是人的智能和計算之間的關系究竟如何,人類認知 的本質(zhì)究竟是否是可計算的問題。
3.關于人工智能極限的魯卡斯論證和彭羅斯論證 關于人工智能極限問題的爭論也許最早可見1921年波斯特關于人心比機器優(yōu)越的猜想。193 6年圖靈發(fā)表重要文章《論可計算數(shù)》指出,“我們將假定需要計數(shù)的心的狀態(tài)數(shù)是有窮的 。這是因為,如果我們承認心的狀態(tài)有無窮多,它們中的某些狀態(tài)就會由于‘任意接近’而 被混淆”。圖靈的這段話曾被看作“人類心智活動不可能超越任何機械程序”的一個論證。 1950 年圖靈在《計算機器與智能》中指出,我們不能因為一臺機器不能參加選美大賽而責備 它,就像我們不能因為一個人沒有飛機跑得快就責備他一樣,機器也能夠思維。這篇文章還 隱含著“人心等價于一臺計算機”的論斷,圖靈的觀點對當時剛剛興起的人工智能方案無疑 是一強有力的聲援,也自然引起了一場大爭論。
1961年美國哲學家魯卡斯在36卷《哲學》雜志上以極其激烈的言辭首先撰文《心、機器、 哥德爾》,試圖用哥德爾定理直接證明“人心超過計算機”的結(jié)論:“依我看,哥德爾定理 證明了機械論是錯誤的,因為,無論我們造出多么復雜的機器,只要它是機器,就將對應于 一個形式系統(tǒng),就能找到一個在該系統(tǒng)內(nèi)不可證的公式而使之受到哥德爾構造不可判定命題 的程序的打擊,機器不能把這個公式作為定理推導出來,但是人心卻能看出它是真的。因此 這臺機器不是心的一個恰當模型。這就是著名的魯卡斯論證。隨后,另一位美國哲學家懷特 利在接下來的37卷《哲學》雜志上發(fā)表了強有力的批駁文章《心、機器、哥德爾——回應魯 卡斯》,遂引起許多人卷入并長達幾十年的爭論。1979年獲得普利策文學大獎的美國暢銷書 《哥德爾、艾舍、巴赫,一條永恒的金帶》將艾舍爾義蘊深刻的版畫、巴赫膾炙人口的樂章 與哥德爾定理戲劇性地連接在一起,試圖從多個視角闡明如何用哥德爾定理否證強人工智能 方案。1989年,英國數(shù)學家、物理學家羅杰·彭羅斯在風靡全球的《皇帝新腦,計算機、 心智和物理定律》中,對魯卡斯論證又作了進一步擴展,指出計算機不過是強人工智能專家 所鐘愛的一副“皇帝新腦”而已。被稱為“哥德爾定理令人吃驚的強應用。”引發(fā)了1990年 《行為和大腦科學》雜志上許多人介入的一場爭論。1997年和1998年當代語言哲學家塞爾相 繼出版《意識之迷》和《心靈、語言和社會》兩部書,斷言,僅僅依靠單純的輸入輸出,絕 不能擔保人的意識,特別是意向性的呈現(xiàn),因此計算機不可能完全模擬人的意識活動。
4.人工智能的極限不是哥德爾定理的直接推論
對哥德爾定理與人工智能極限之間的關系,哥德爾本人如何看待?從哥德爾的部分重要手稿 和70年代與王浩的談話記錄中我們得知,哥德爾在嚴格區(qū)分了心、腦、計算機的功能后作出 明確斷言,“大腦的功能不過像一臺自動計算機”,“心與腦的功能同一卻是我們時代的偏 見”,但不完全性定理不能作為“人心勝過計算機”的直接證據(jù),要推出如此強硬論斷還需 要其他假定。
于是,“人心是否勝過計算機”的問題事實上可以轉(zhuǎn)換為幾個子問題:(1)是否大腦和心的 功能等同?(2)是否大腦的運作等同于計算機的運作?(3)是否心的活動都是可計算的?這三個 問題實際上就是心腦同一論問題、大腦的可計算主義和心的可計算主義問題。
心腦同一論是50年代末以來西方頗為流行的占據(jù)主流的一種理論,也是人工智能的理論基 礎。但哥德爾認為,心腦同一論是今日普遍接受的時代偏見。其中的一條理由是,根本沒有 足夠的大腦神經(jīng)元來實現(xiàn)心的復雜的運作。在哥德爾的手稿中我們也可以看到他對心的可計 算主義的批駁。
首先,哥德爾曾在多種場合申明,他本人并不反對用不完全性定理作為證明“人心勝過計 算 機”這一結(jié)論的部分證據(jù),因為在他看來,不完全性定理并未給出人類理性的極限,而只 揭示了數(shù)學形式主義的內(nèi)在局限,但是,僅僅使用他的定理不足以作出如此強硬論斷。在 1972年的一篇評論中哥德爾指出,圖靈給出的“心智過程不能超越機械過程”的論證在附加 以下兩個假定之后才有可能:(1)沒有與物質(zhì)相分離的心。(2)大腦的功能基本上像一臺數(shù)字 計算機,他認為(2)的概然性很高;但無論如何,(1)是將要被科學所否證的,是我們時代的 偏見。
實際上,早在1951年的吉布斯演講手稿(1995年發(fā)表)中,哥德爾就指出,“從我的定理可 以推出的結(jié)論只能是如下形式的選言判斷:或者數(shù)學是不可完全的,即它的自明的公理不可 能包含在有窮規(guī)則中,因此人心超過有窮機器;或者存在人心絕對不可判定的數(shù)論問題”。
哥德爾隨后用他稱之為“理性樂觀主義”的立場對這一選言判斷進行了分析:如果我們像 希爾伯特那樣,堅信“人類理性提出的問題人類理性一定能夠解答”,那么就可以否定第二 選 言支,因為,承認“存在人心絕對不可判定的數(shù)論問題”是與我們的這一信念背道而馳的。 這樣一來,第一選言支就應當成立,即人心勝過計算機??梢姡诟绲聽柨磥?,附加了“人 類理性提出的問題人類理性一定能夠解答”這樣一個哲學假定,有可能從不完全性定理推出 “人心勝過計算機”的結(jié)論。當然,哥德爾也意識到,這種對于“心腦同一論”和“心的可 計算主義”的否證未必令人信服,因為它畢竟是一種推論式的。
值得注意的一點是,哥德爾第二不完全性定理的一種形式是說,任何恰當?shù)亩ɡ碜C明機器 ,或者定理證明程序,如果它是一致的,那么它不能證明表達它自身一致性的命題是定理。 哥德爾說,一方面,人心不能將他的全部數(shù)學直覺形式化,如果人心把他的某些數(shù)學直覺形 式化了,這件事本身便要產(chǎn)生新的直覺知識(如該系統(tǒng)的一致性);另一方面,不排除存在一 臺定理證明機器確實等價于數(shù)學直覺,但重要的在于,假定有這樣的機器M,由不完全性定 理,我們不可能證明M確實能做到這點。
看來,當人們應用哥德爾定理試圖嚴格地作出“人心勝過計算機”的論證時,其中包含著 一個令人難以察覺的漏洞:問題的核心并不在于是否存在能捕獲人類直覺的定理證明機器, 而恰恰在于,即使存在這樣一臺機器,也不能證明它確實做到了這一步。恰如哥德爾所說: “不完全性結(jié)果并不排除存在事實上等價于數(shù)學直覺的定理證明機器。但是定理蘊涵著,在 這種情況下,或者我們不能確切知道這臺機器的詳情,或者不能確切知道它是否會準確無誤 地工作。”
也許在考察了如上各種關于心、腦、計算機問題的獨特見解之后,我們有必要指出,哥德 爾曾解釋過他所說的“心”的含義:“我所說的心是指有無限壽命的個體的心智,這與物種 的心智的聚合不同”。而且,除了必要的哲學假定之外,在哥德爾看來,回答“人心是否勝 過計算機”這一問題還依賴于我們能否消除內(nèi)涵悖論,還要取決于包括大腦生理學在內(nèi)的整 個科學的進展。
5.超越圖靈意義上的認知可計算主義
哥德爾定理確實使我們思考這樣的問題:由于人設計制造了計算機,人總能從外部觀察和 操縱機器。假定設計機器去解決某個問題集a,b,c,……,那么,如果計算機等價于一個 形式系統(tǒng),根據(jù)哥德爾定理,在這個形式系統(tǒng)中將產(chǎn)生這臺機器不能解決的問題(例如系統(tǒng) 本身的一致性問題),但從外部觀察,這個問題卻是人的智能可解的。于是,為了解決問題 集a,b,c,……,又會產(chǎn)生新的計算機不能解決的問題集x,y,z,……。
同樣需要強調(diào)的是,哥德爾1931年曾經(jīng)在一個重要腳注和給蔡梅羅的信中指出,“所有數(shù) 學形式系統(tǒng)的內(nèi)在不完全性的根源在于,更高類型的形式化總能持續(xù)到超窮,……因此,這 里構造的不可判定命題在更高類型中將變成可判定的”。哥德爾的這一斷言無疑為我們不斷 突破低層形式系統(tǒng)的局限,尋求更高類型形式系統(tǒng)模擬人類智能提供了豐富的空間。我們無 法 證明人工智能存在某種不可逾越的邏輯極限,完全可以探討如何超越目前的圖靈機來模擬人 類智能的新途徑。
計算機是人類為了自身目的而設計制造的,這種制造者與被制造者之間的強關系將人置于 面對面地統(tǒng)治機器的絕對優(yōu)越地位,這種地位究竟是一種社會學意義上的優(yōu)越,還是計算機 和人的智能的本質(zhì)特性所決定的?或者像哥德爾斷定的,存在與物質(zhì)相分離的心能超越任何 計算機去發(fā)現(xiàn)和證明某些數(shù)學定理,至少在發(fā)現(xiàn)具有超窮性質(zhì)的數(shù)學真理,提出數(shù)學公理、 構造假說方面是任何計算機都無法企及的;抑或像彭羅斯斷言的那樣,人心具有一種特殊的 能力,這種能力是建立在迄今未予發(fā)現(xiàn)的某些物理學規(guī)律的基礎上,而且能超越任何計算 機實現(xiàn)非算法的運算?這確是需要我們深入探討的問題。
我認為,現(xiàn)在一個更值得思考的問題是,我們以上的討論都是建立在圖靈意義上的可計算 概念基礎上的,目前人工智能領域也完全是在圖靈意義上可計算概念基礎上產(chǎn)生的“認知可 計算主義”的范式指導下工作。即使不論用一個形式系統(tǒng)表達圖靈機的方式不唯一,我們也 應當考慮到,對于模擬人類智能的計算機,完全可以采用某種新型的形式系統(tǒng),采用包含非 古典邏輯的具有動態(tài)性質(zhì)的形式系統(tǒng)。同樣不容忽視的一個問題是,這種形式系統(tǒng)至少應當 保證緊致性定理成立,應當在原始遞歸的范圍之內(nèi),這樣一來,哥德爾不完全性定理就自然 成立,因此仍然沒有超出哥德爾所言的邏輯極限范圍。
那么能否構造新型的形式系統(tǒng),它不是哥德爾構造不可判定命題的靜態(tài)的古典邏輯的形式 系統(tǒng)?而且在這種系統(tǒng)中哥德爾定理不成立?更進一步,可計算性的概念是否可超越圖靈機可 計算概念的范圍,我們是否可尋求某種非圖靈機理論模型去模擬人類心智,計算是否是人類 認知和智能活動的主要,甚至是全部內(nèi)容,計算概念是否只能意味著圖靈機可計算?
我們認為,人工智能,甚至整個認知科學正在面臨著一場研究范式的轉(zhuǎn)換,基于圖靈可計 算概念的“認知可計算主義”研究綱領已經(jīng)顯示出其極大的局限,必將代之以“認知的算法 不可完全性”為核心的研究綱領。人類必將探索新的非圖靈機概念來嘗試解決人工智能更深 層的問題,以擺脫在理論和實踐上的困境。目前西方學者已經(jīng)在探討“超越(圖靈機)計算” 的問題,應當引起我們足夠的關注。