0833-2303365
當前位置：
· 機器學習平臺
來源:
|
作者:tpl-c50633d
|
發(fā)布時間: 2020-10-23
|
453 次瀏覽
|
?? 點擊朗讀正文
??
?
|
分享到:
（以下為臨時文案，您可自由進行更換）自然語言處理是計算機科學領域與人工智能領域中的一個重要方向。它研究能實現(xiàn)人與計算機之間用自然語言進行有效通信的各種理論和方法。自然語言處理是一門融語言學、計算機科學、數(shù)學于一體的科學。因此，這一領域的研究將涉及自然語言，即人們日常使用的語言，所以它與語言學的研究有著密切的聯(lián)系，但又有重要的區(qū)別。自然語言處理并不是一般地研究自然語言，而在于研制能有效地實現(xiàn)自然語言通信的計算機系統(tǒng)，特別是其中的軟件系統(tǒng)。因而它是計算機科學的一部分。
自然語言處理（NLP）是計算機科學，人工智能，語言學關注計算機和人類（自然）語言之間的相互作用的領域。
語言是人類區(qū)別其他動物的本質特性。在所有生物中，只有人類才具有語言能力。人類的多種智能都與語言有著密切的關系。人類的邏輯思維以語言為形式，人類的絕大部分知識也是以語言文字的形式記載和流傳下來的。因而，它也是人工智能的一個重要，甚至核心部分。
用自然語言與計算機進行通信，這是人們長期以來所追求的。因為它既有明顯的實際意義，同時也有重要的理論意義：人們可以用自己較習慣的語言來使用計算機，而無需再花大量的時間和精力去學習不很自然和習慣的各種計算機語言；人們也可通過它進一步了解人類的語言能力和智能的機制。
實現(xiàn)人機間自然語言通信意味著要使計算機既能理解自然語言文本的意義，也能以自然語言文本來表達給定的意圖、思想等。前者稱為自然語言理解，后者稱為自然語言生成。因此，自然語言處理大體包括了自然語言理解和自然語言生成兩個部分。歷史上對自然語言理解研究得較多，而對自然語言生成研究得較少。但這種狀況已有所改變。
無論實現(xiàn)自然語言理解，還是自然語言生成，都遠不如人們原來想象的那么簡單，而是**困難的。從現(xiàn)有的理論和技術現(xiàn)狀看，通用的、高質量的自然語言處理系統(tǒng)，仍然是較長期的努力目標，但是針對一定應用，具有相當自然語言處理能力的實用系統(tǒng)已經(jīng)出現(xiàn)，有些已商品化，甚至開始產(chǎn)業(yè)化。典型的例子有：多語種數(shù)據(jù)庫和專家系統(tǒng)的自然語言接口、各種機器翻譯系統(tǒng)、全文信息檢索系統(tǒng)、自動文摘系統(tǒng)等。
自然語言處理，即實現(xiàn)人機間自然語言通信，或實現(xiàn)自然語言理解和自然語言生成是**困難的。造成困難的根本原因是自然語言文本和對話的各個層次上廣泛存在的各種各樣的歧義性或多義性（ambiguity）。
一個中文文本從形式上看是由漢字（包括標點符號等）組成的一個字符串。由字可組成詞，由詞可組成詞組，由詞組可組成句子，進而由一些句子組成段、節(jié)、章、篇。無論在上述的各種層次：字（符）、詞、詞組、句子、段，……還是在下一層次向上一層次轉變中都存在著歧義和多義現(xiàn)象，即形式上一樣的一段字符串，在不同的場景或不同的語境下，可以理解成不同的詞串、詞組串等，并有不同的意義。一般情況下，它們中的大多數(shù)都是可以根據(jù)相應的語境和場景的規(guī)定而得到解決的。也就是說，從總體上說，并不存在歧義。這也就是我們平時并不感到自然語言歧義，和能用自然語言進行正確交流的原因。但是一方面，我們也看到，為了消解歧義，是需要極其大量的知識和進行推理的。如何將這些知識較完整地加以收集和整理出來；又如何找到合適的形式，將它們存入計算機系統(tǒng)中去；以及如何有效地利用它們來消除歧義，都是工作量極大且**困難的工作。這不是少數(shù)人短時期內可以完成的，還有待長期的、系統(tǒng)的工作。
以上說的是，一個中文文本或一個漢字（含標點符號等）串可能有多個含義。它是自然語言理解中的主要困難和障礙。反過來，一個相同或相近的意義同樣可以用多個中文文本或多個漢字串來表示。
因此，自然語言的形式（字符串）與其意義之間是一種多對多的關系。其實這也正是自然語言的魅力所在。但從計算機處理的角度看，我們必須消除歧義，而且有人認為它正是自然語言理解中的中心問題，即要把帶有潛在歧義的自然語言輸入轉換成某種無歧義的計算機內部表示。
歧義現(xiàn)象的廣泛存在使得消除它們需要大量的知識和推理，這就給基于語言學的方法、基于知識的方法帶來了巨大的困難，因而以這些方法為主流的自然語言處理研究幾十年來一方面在理論和方法方面取得了很多成就，但在能處理大規(guī)模真實文本的系統(tǒng)研制方面，成績并不顯著。研制的一些系統(tǒng)大多數(shù)是小規(guī)模的、研究性的演示系統(tǒng)。
目前存在的問題有兩個方面：一方面，迄今為止的語法都限于分析一個孤立的句子，上下文關系和談話環(huán)境對本句的約束和影響還缺乏系統(tǒng)的研究，因此分析歧義、詞語省略、代詞所指、同一句話在不同場合或由不同的人說出來所具有的不同含義等問題，尚無明確規(guī)律可循，需要加強語用學的研究才能逐步解決。另一方面，人理解一個句子不是單憑語法，還運用了大量的有關知識，包括生活知識和專門知識，這些知識無法全部貯存在計算機里。因此一個書面理解系統(tǒng)只能建立在有限的詞匯、句型和特定的主題范圍內；計算機的貯存量和運轉速度大大提高之后，才有可能適當擴大范圍.
以上存在的問題成為自然語言理解在機器翻譯應用中的主要難題，這也就是當今機器翻譯系統(tǒng)的譯文質量離理想目標仍相差甚遠的原因之一；而譯文質量是機譯系統(tǒng)成敗的關鍵。中國數(shù)學家、語言學家周海中教授曾在**論文《機器翻譯五十年》中指出：要提高機譯的質量，首先要解決的是語言本身問題而不是程序設計問題；單靠若干程序來做機譯系統(tǒng)，肯定是無法提高機譯質量的；另外在人類尚未明了大腦是如何進行語言的模糊識別和邏輯判斷的情況下，機譯要想達到“信、達、雅”的程度是不可能的。
自然語言處理（NLP）是計算機科學，人工智能，語言學關注計算機和人類（自然）語言之間的相互作用的領域。
語言是人類區(qū)別其他動物的本質特性。在所有生物中，只有人類才具有語言能力。人類的多種智能都與語言有著密切的關系。人類的邏輯思維以語言為形式，人類的絕大部分知識也是以語言文字的形式記載和流傳下來的。因而，它也是人工智能的一個重要，甚至核心部分。
用自然語言與計算機進行通信，這是人們長期以來所追求的。因為它既有明顯的實際意義，同時也有重要的理論意義：人們可以用自己較習慣的語言來使用計算機，而無需再花大量的時間和精力去學習不很自然和習慣的各種計算機語言；人們也可通過它進一步了解人類的語言能力和智能的機制。
實現(xiàn)人機間自然語言通信意味著要使計算機既能理解自然語言文本的意義，也能以自然語言文本來表達給定的意圖、思想等。前者稱為自然語言理解，后者稱為自然語言生成。因此，自然語言處理大體包括了自然語言理解和自然語言生成兩個部分。歷史上對自然語言理解研究得較多，而對自然語言生成研究得較少。但這種狀況已有所改變。
無論實現(xiàn)自然語言理解，還是自然語言生成，都遠不如人們原來想象的那么簡單，而是**困難的。從現(xiàn)有的理論和技術現(xiàn)狀看，通用的、高質量的自然語言處理系統(tǒng)，仍然是較長期的努力目標，但是針對一定應用，具有相當自然語言處理能力的實用系統(tǒng)已經(jīng)出現(xiàn)，有些已商品化，甚至開始產(chǎn)業(yè)化。典型的例子有：多語種數(shù)據(jù)庫和專家系統(tǒng)的自然語言接口、各種機器翻譯系統(tǒng)、全文信息檢索系統(tǒng)、自動文摘系統(tǒng)等。
自然語言處理，即實現(xiàn)人機間自然語言通信，或實現(xiàn)自然語言理解和自然語言生成是**困難的。造成困難的根本原因是自然語言文本和對話的各個層次上廣泛存在的各種各樣的歧義性或多義性（ambiguity）。
一個中文文本從形式上看是由漢字（包括標點符號等）組成的一個字符串。由字可組成詞，由詞可組成詞組，由詞組可組成句子，進而由一些句子組成段、節(jié)、章、篇。無論在上述的各種層次：字（符）、詞、詞組、句子、段，……還是在下一層次向上一層次轉變中都存在著歧義和多義現(xiàn)象，即形式上一樣的一段字符串，在不同的場景或不同的語境下，可以理解成不同的詞串、詞組串等，并有不同的意義。一般情況下，它們中的大多數(shù)都是可以根據(jù)相應的語境和場景的規(guī)定而得到解決的。也就是說，從總體上說，并不存在歧義。這也就是我們平時并不感到自然語言歧義，和能用自然語言進行正確交流的原因。但是一方面，我們也看到，為了消解歧義，是需要極其大量的知識和進行推理的。如何將這些知識較完整地加以收集和整理出來；又如何找到合適的形式，將它們存入計算機系統(tǒng)中去；以及如何有效地利用它們來消除歧義，都是工作量極大且**困難的工作。這不是少數(shù)人短時期內可以完成的，還有待長期的、系統(tǒng)的工作。
以上說的是，一個中文文本或一個漢字（含標點符號等）串可能有多個含義。它是自然語言理解中的主要困難和障礙。反過來，一個相同或相近的意義同樣可以用多個中文文本或多個漢字串來表示。
因此，自然語言的形式（字符串）與其意義之間是一種多對多的關系。其實這也正是自然語言的魅力所在。但從計算機處理的角度看，我們必須消除歧義，而且有人認為它正是自然語言理解中的中心問題，即要把帶有潛在歧義的自然語言輸入轉換成某種無歧義的計算機內部表示。
歧義現(xiàn)象的廣泛存在使得消除它們需要大量的知識和推理，這就給基于語言學的方法、基于知識的方法帶來了巨大的困難，因而以這些方法為主流的自然語言處理研究幾十年來一方面在理論和方法方面取得了很多成就，但在能處理大規(guī)模真實文本的系統(tǒng)研制方面，成績并不顯著。研制的一些系統(tǒng)大多數(shù)是小規(guī)模的、研究性的演示系統(tǒng)。
目前存在的問題有兩個方面：一方面，迄今為止的語法都限于分析一個孤立的句子，上下文關系和談話環(huán)境對本句的約束和影響還缺乏系統(tǒng)的研究，因此分析歧義、詞語省略、代詞所指、同一句話在不同場合或由不同的人說出來所具有的不同含義等問題，尚無明確規(guī)律可循，需要加強語用學的研究才能逐步解決。另一方面，人理解一個句子不是單憑語法，還運用了大量的有關知識，包括生活知識和專門知識，這些知識無法全部貯存在計算機里。因此一個書面理解系統(tǒng)只能建立在有限的詞匯、句型和特定的主題范圍內；計算機的貯存量和運轉速度大大提高之后，才有可能適當擴大范圍.
以上存在的問題成為自然語言理解在機器翻譯應用中的主要難題，這也就是當今機器翻譯系統(tǒng)的譯文質量離理想目標仍相差甚遠的原因之一；而譯文質量是機譯系統(tǒng)成敗的關鍵。中國數(shù)學家、語言學家周海中教授曾在**論文《機器翻譯五十年》中指出：要提高機譯的質量，首先要解決的是語言本身問題而不是程序設計問題；單靠若干程序來做機譯系統(tǒng)，肯定是無法提高機譯質量的；另外在人類尚未明了大腦是如何進行語言的模糊識別和邏輯判斷的情況下，機譯要想達到“信、達、雅”的程度是不可能的。