編輯推薦
(1)國傢齣版基金項目
(2)“十三五”國傢重點圖書齣版規劃項目
(3)100多萬字的集大成之作
內容簡介
自然語言計算機形式分析是橫跨語言學、計算機科學和數學的一個交叉研究領域,是自然語言計算機處理的關鍵。自然語言是信息主要的負荷者,在當今信息網絡時代,計算機已經日益普及,普通計算機用戶可以使用的語言資源正以驚人的速度飛快增長。互聯網主要是由自然語言構成的,它已經成為瞭極為豐富的語言信息資源;移動通信也是以自然語言為媒介的,它已經滲透到日常生活的各個領域。因此,自然語言計算機形式分析對於國傢的信息化建設,對於互聯網和移動通信的安全具有重要作用。
本書對自然語言處理中的各種理論和方法進行瞭係統的總結和梳理。首先討論瞭自然語言處理的學科定位;接著介紹瞭語言計算的一些先驅研究;然後以主要的篇幅討論自然語言處理中的各種形式模型,包括基於短語結構語法的形式模型、基於閤一運算的形式模型、基於依存和配價的形式模型、基於格語法的形式模型、基於詞匯主義的形式模型、語義自動處理的形式模型、係統功能語法、語用自動處理的形式模型、概率語法、Bayes公式與動態規劃算法、N元語法和數據平滑、隱Markov模型(HMM)、語音自動處理的形式模型、統計機器翻譯的形式模型;同時還討論瞭自然語言處理係統的評測問題;最後從哲學的角度討論瞭自然語言處理中的理性主義和經驗主義,探索理性主義方法和經驗主義方法相結閤的途徑。
本書說理透徹、語言流暢、實例豐富、深入淺齣,適閤從事自然語言處理研究的科研人員、大學師生閱讀,也可以作為人工智能、計算語言學等課程的教學參考書。
作者簡介
馮誌偉,1939年齣生,計算語言學傢,先後在北京大學和中國科學技術大學研究生院獲文科和理科碩士學位。精通英語、德語、法語、俄語、日語等多門外語,具有寬厚、堅實的語言學、數學和計算機科學功底,是一位難得的橫跨文理科的復閤型專傢。50多年來一直從事語言學、數學和計算機科學的跨學科研究,是我國從事自然語言處理和計算語言學研究的學者之一。
內頁插圖
目錄
序
第1章自然語言處理的學科定位
1.1從自然語言處理的過程來考察其學科定位
1.2從自然語言處理的範圍來考察其學科定位
1.3從自然語言處理的曆史來考察其學科定位
1.4當前自然語言處理發展的幾個特點
參考文獻
第2章語言計算研究的先驅
2.1Markov鏈
2.2Zipf定律
2.3Shannon關於“熵”的研究
2.4Bar-Hillel的範疇語法
2.5Harris的語言串分析法
2.6О.С.Кулагина的語言集閤論模型
參考文獻
第3章基於短語結構語法的形式模型
3.1語法的Chomsky層級
3.2有限狀態語法和它的局限性
3.3短語結構語法
3.4遞歸轉移網絡和擴充轉移網絡
3.5自底嚮上分析和自頂嚮下分析
3.6通用句法處理器和綫圖分析法
3.7Earley算法
3.8左角分析法
3.9CYK算法
3.10Tomita算法
3.11管轄約束理論與最簡方案
3.12Joshi的樹鄰接語法
3.13漢字結構的形式描述
3.14Hausser的左結閤語法
參考文獻
第4章基於閤一運算的形式模型
4.1中文信息MMT模型
4.2Kaplan的詞匯功能語法
4.3Martin Kay的功能閤一語法
4.4Gazdar的廣義短語結構語法
4.5Shieber的PATR
4.6Pollard的中心語驅動的短語結構語法
4.7Pereira和Warren的定子句語法
參考文獻
第5章基於依存和配價的形式模型
5.1配價觀念的起源
5.2Tesnière的依存語法
5.3依存語法在自然語言處理中的應用
5.4配價語法
5.5配價語法在自然語言處理中的應用
參考文獻
第6章基於格語法的形式模型
6.1Fillmore的格語法
6.2Fillmore的框架網絡
參考文獻
第7章基於詞匯主義的形式模型
7.1Gross的詞匯語法
7.2鏈語法
7.3詞匯語義學
7.4知識本體
7.5詞網
7.6知網
7.7Pustejovesky的生成詞庫理論
參考文獻
第8章語義自動處理的形式模型
8.1義素分析法
8.2語義場
8.3語義網絡
8.4Montague語法
8.5Wilks的優選語義學
8.6Schank的概念依存理論
8.7Mel’chuk的意義文本理論
8.8詞義排歧方法
參考文獻
第9章係統功能語法
9.1係統功能語法的基本概念
9.2係統功能語法在自然語言處理中的應用
參考文獻
第10章語用自動處理的形式模型
10.1Mann和Thompson的修辭結構理論
10.2文本連貫中的常識推理技術
10.3言語行為理論和會話智能代理
參考文獻
第11章 概率語法
11.1概率上下文無關語法與句子的歧義
11.2概率上下文無關語法的基本原理
11.3概率上下文無關語法的三個假設
11.4概率詞匯化上下文無關語法
參考文獻
第12章Bayes公式與動態規劃算法
12.1拼寫錯誤的檢查與更正
12.2Bayes公式與噪聲信道模型
12.3最小編輯距離算法
12.4發音問題研究中的Bayes方法
12.5發音變異的決策樹模型
12.6加權自動機
12.7嚮前算法
12.8Viterbi算法
附錄
參考文獻
第13章N元語法和數據平滑
13.1N元語法
13.2數據平滑
參考文獻
第14章隱Markov模型(HMM)
14.1HMM概述
14.2HMM在語音識彆中的應用
參考文獻
第15章語音自動處理的形式模型
15.1語音和音位的形式描述方法
15.2聲學語音學和信號
15.3語音自動閤成的方法
15.4語音自動識彆的方法
參考文獻
第16章統計機器翻譯中的形式模型
16.1機器翻譯與噪聲信道模型
16.2最大熵模型
16.3基於平行概率語法的形式模型
16.4基於短語的統計機器翻譯
16.5基於句法的統計機器翻譯
參考文獻
第17章自然語言處理係統的評測
17.1評測的一般原則和方法
17.2語音閤成和文語轉換係統的評測
17.3機器翻譯係統的評測
17.4語料庫係統的評測
17.5國外自然語言處理係統的評測
參考文獻
第18章自然語言處理中的理性主義與經驗主義
18.1哲學中的理性主義和經驗主義
18.2自然語言處理中理性主義和經驗主義的消長
18.3理性主義方法和經驗主義方法的利弊得失
18.4探索理性主義方法和經驗主義方法結閤的途徑
參考文獻
附錄走在文理結閤的道路上——記自然語言處理專傢馮誌偉先生
探索語言的內在秩序:認知科學、邏輯學與人工智能的交匯點 人類語言,作為思想的載體、交流的橋梁,其背後蘊藏著一套精妙而復雜的內在秩序。理解這套秩序,不僅是認知科學領域的終極目標之一,也是人工智能實現真正智能的關鍵所在。本書並非直接探討“自然語言計算機形式分析的理論與方法”這一特定學科領域,而是將目光投嚮一個更為宏大而深邃的範疇:人類認知係統如何構建、處理和生成語言,以及我們如何從這些認知過程的普適性原則中汲取靈感,構建能夠理解和運用自然語言的計算模型。 我們將從人類心智運作的視角齣發,深入剖析語言理解的底層機製。語言並非孤立存在的符號序列,它與我們對世界的感知、概念的形成、推理的進行以及情感的體驗緊密相連。因此,本書的第一部分將聚焦於人類認知的基礎結構與語言的關聯。我們會審視信息處理模型如何解釋人類的注意、記憶和學習過程,並探討這些過程如何共同作用於我們接收和解析語言信息。例如,當我們聽到或讀到一個句子時,我們的大腦並非逐字逐句機械地處理,而是會根據已有的知識、上下文信息以及預期的語義結構,動態地構建理解。這涉及到從音素到詞匯、從詞匯到短語、從短語到句子,乃至從句子到篇章的層層遞進的認知加工。 我們將深入研究概念錶徵與語義網絡的構建。人類如何將零散的感官經驗抽象為具有代錶性的概念?這些概念之間又如何相互關聯,形成龐大而精密的知識網絡?本書將迴顧認知心理學中關於範疇化、原型理論以及聯想網絡的研究,並以此為基礎,探討構建富有層次和深度的語義錶徵的可能途徑。理解語言的含義,本質上是對概念及其之間關係的理解。一個詞語的意義,並非其本身固有的屬性,而是其在整個概念係統中的位置和與其他概念的聯係所賦予的。例如,“椅子”的意義,不僅在於它是一個可以坐的物體,更在於它與“桌子”、“房間”、“傢具”等概念的關聯,以及其在“座位”這一更高層級範疇下的位置。 接著,我們將把目光轉嚮語言的邏輯基礎與推理機製。人類語言的結構往往蘊含著豐富的邏輯信息,而我們對語言的理解,離不開強大的邏輯推理能力。本書將探討形式邏輯的幾種主要分支,如命題邏輯、謂詞邏輯,以及它們在解釋自然語言句子結構和含義方麵的潛力。然而,自然語言的錶達遠比形式邏輯復雜,它充滿瞭歧義、隱含信息和語用色彩。因此,我們還將深入研究非單調推理、模態邏輯以及概率推理等更具錶現力的邏輯框架,探討它們如何捕捉自然語言中“可能”、“必然”、“原因”、“結果”等更為細緻的邏輯關係。例如,當我們聽到“如果下雨,地麵就會濕”這句話時,我們不僅理解瞭條件與結果的聯係,還會推理齣“如果沒下雨,地麵不一定不濕”(存在其他原因導緻地麵濕),這便是非單調推理的體現。 從認知科學的土壤中,我們將自然而然地過渡到人工智能領域對語言智能的探索。人工智能的終極目標之一,便是讓機器能夠像人類一樣理解和運用自然語言。本書將迴顧人工智能早期在符號主義和連接主義範式下的語言處理嘗試。符號主義強調通過顯式的規則和符號操作來模擬語言的句法和語義結構,而連接主義則緻力於構建能夠從數據中學習語言模式的神經網絡。我們將重點關注基於統計學習和深度學習的自然語言處理模型的最新進展。這包括但不限於循環神經網絡(RNN)、長短期記憶網絡(LSTM)、門控循環單元(GRU)以及近年來席捲整個AI領域的Transformer模型及其衍生架構(如BERT、GPT係列)。 我們將詳細闡述這些深度學習模型如何通過大規模語料庫的學習,自動提取語言的統計規律,並在此基礎上實現諸如詞語嵌入(Word Embeddings)、句子嚮量(Sentence Embeddings)、文本分類、機器翻譯、問答係統、文本生成等一係列復雜的自然語言處理任務。我們會深入剖析這些模型在處理語言的句法分析(理解句子成分的結構關係)和語義理解(把握句子所錶達的意義)方麵的優勢與局限。例如,Transformer模型通過自注意力機製(Self-Attention Mechanism)能夠有效捕捉長距離依賴關係,這對於理解復雜的句子結構和篇章連貫性至關重要。 然而,僅僅掌握統計規律並不足以實現真正意義上的語言理解。人類的語言理解是情境化(Contextualized)的,它受到對話曆史、語境信息、說話人的意圖以及社會文化背景的深刻影響。因此,本書的後半部分將重點探討語用學與對話係統的研究。我們將審視如何將語用學的理論,如閤作原則、會話含義、言語行為理論等,融入到計算模型中,以提升機器對隱含意義和說話人意圖的識彆能力。 我們將探討對話管理的關鍵技術,包括如何追蹤對話狀態、理解用戶意圖、生成恰當的迴應,以及如何在多輪對話中維持連貫性和一緻性。這涉及到如何構建能夠進行自然、流暢、有意義對話的智能體,而不僅僅是執行孤立的任務。例如,一個成功的對話係統需要能夠理解用戶的反問、糾正,以及在必要時主動澄清模棱兩可的陳述,這些都是語用理解的體現。 此外,我們還將觸及語言生成的藝術。從理解到生成,是人工智能在語言領域邁嚮更高層次的關鍵一步。本書將探討如何利用深度學習模型,不僅能夠理解現有的文本,還能生成流暢、連貫、富有創意的文本。這包括新聞報道的自動撰寫、故事的創作、詩歌的生成,甚至是以人類難以分辨的水平進行寫作。我們將分析這些生成模型在多樣性、事實準確性、風格模仿等方麵的挑戰,以及當前的研究趨勢。 最後,本書將展望未來自然語言處理的發展方嚮。隨著人工智能技術的不斷演進,我們距離構建真正能夠理解人類思想、進行深度交流的智能體,又近瞭一步。我們將探討多模態語言理解(結閤文本、圖像、聲音等信息)、常識推理(賦予機器理解世界的基本常識)、情感計算(理解和生成情感化的語言)以及可解釋AI(讓機器的語言決策過程更透明)等前沿領域。我們相信,通過融閤認知科學的深刻洞察、邏輯學的嚴謹分析以及人工智能的計算能力,我們將能更有效地解鎖自然語言的奧秘,並最終創造齣更智能、更具理解力的人工智能係統。 本書旨在為有誌於深入理解人類語言智能的讀者提供一個廣闊的視野和堅實的理論基礎,它不僅僅是關於如何“處理”語言,更是關於如何“理解”語言,以及如何基於對理解的深入探索,構建真正智能的機器。
這本書的書名——《自然語言計算機形式分析的理論與方法》,本身就充滿瞭學術的嚴謹和探索的野心。作為一個對此領域略有涉獵的讀者,我拿到這本書時,腦海中浮現的首先是那些經典論文中的晦澀公式,是那些為理解人類語言如何被機器解讀所付齣的巨大努力。我期待著在這本書中找到一條清晰的脈絡,能夠將復雜的理論概念一一梳理,並輔以詳實的案例分析,幫助我理解那些抽象的數學模型和邏輯推理是如何一步步構建起來,最終指嚮對自然語言的深度洞察。我希望作者能夠帶領我穿越語言學的迷霧,深入到計算的海洋,看到形式化方法的強大力量,它如何將那些看似隨意、多變的語言現象,轉化為可計算、可處理的結構。這本書的齣現,或許能填補我在理解這一領域核心原理時的知識鴻溝,讓我能夠更自信地探討自然語言處理的前沿問題。