从本周开始,我们将定期刊登 Google 科学家吴军写的《数学之美》系列文章,介绍数学在信息检索和自然语言处理中的主导作用和奇妙应用。
发表者: 吴军, Google 研究员
前言
也许大家不相信,数学是解决信息检索和自然语言处理的最好工具。它能非常清晰地描述这些领域的实际问题并且给出漂亮的解决办法。每当人们应用数学工具解决一个语言问题时,总会感叹数学之美。我们希望利用 Google 中文黑板报这块园地,介绍一些数学工具,以及我们是如何利用这些工具来开发 Google 产品的。
系列一: 统计语言模型 (Statistical Language Models)
Google 的使命是整合全球的信息,所以我们一直致力于研究如何让机器对信息、语言做最好的理解和处理。长期以来,人类一直梦想着能让机器代替人来翻译语言、识别语音、认识文字(不论是印刷体或手写体)和进行海量文献的自动检索,这就需要让机器理解语言。但是人类的语言可以说是信息里最复杂最动态的一部分。为了解决这个问题,人们容易想到的办法就是让机器模拟人类进行学习 - 学习人类的语法、分析语句等等。尤其是在乔姆斯基(Noam Chomsky 有史以来最伟大的语言学家)提出 “形式语言” 以后,人们更坚定了利用语法规则的办法进行文字处理的信念。遗憾的是,几十年过去了,在计算机处理语言领域,基于这个语法规则的方法几乎毫无突破。
其实早在几十年前,数学家兼信息论的祖师爷 香农 (Claude Shannon)就提出了用数学的办法处理自然语言的想法。遗憾的是当时的计算机条件根本无法满足大量信息处理的需要,所以他这个想法当时并没有被人们重视。七十年代初,有了大规模集成电路的快速计算机后,香农的梦想才得以实现。
首先成功利用数学方法解决自然语言处理问题的是语音和语言处理大师贾里尼克 (Fred Jelinek)。当时贾里尼克在 IBM 公司做学术休假 (Sabbatical Leave),领导了一批杰出的科学家利用大型计算机来处理人类语言问题。统计语言模型就是在那个时候提出的。
给大家举个例子:在很多涉及到自然语言处理的领域,如机器翻译、语音识别、印刷体或手写体识别、拼写纠错、汉字输入和文献查询中,我们都需要知道一个文字序列是否能构成一个大家能理解的句子,显示给使用者。对这个问题,我们可以用一个简单的统计模型来解决这个问题。
如果 S 表示一连串特定顺序排列的词 w1, w2,…, wn ,换句话说,S 可以表示某一个由一连串特定顺序排练的词而组成的一个有意义的句子。现在,机器对语言的识别从某种角度来说,就是想知道S在文本中出现的可能性,也就是数学上所说的S 的概率用 P(S) 来表示。利用条件概率的公式,S 这个序列出现的概率等于每一个词出现的概率相乘,于是P(S) 可展开为:
P(S) = P(w1)P(w2|w1)P(w3| w1 w2)…P(wn|w1 w2…wn-1)
其中 P (w1) 表示第一个词w1 出现的概率;P (w2|w1) 是在已知第一个词的前提下,第二个词出现的概率;以次类推。不难看出,到了词wn,它的出现概率取决于它前面所有词。从计算上来看,各种可能性太多,无法实现。因此我们假定任意一个词wi的出现概率只同它前面的词 wi-1 有关(即马尔可夫假设),于是问题就变得很简单了。现在,S 出现的概率就变为:
P(S) = P(w1)P(w2|w1)P(w3|w2)…P(wi|wi-1)…
(当然,也可以假设一个词又前面N-1个词决定,模型稍微复杂些。)
接下来的问题就是如何估计 P (wi|wi-1)。现在有了大量机读文本后,这个问题变得很简单,只要数一数这对词(wi-1,wi) 在统计的文本中出现了多少次,以及 wi-1 本身在同样的文本中前后相邻出现了多少次,然后用两个数一除就可以了,P(wi|wi-1) = P(wi-1,wi)/ P (wi-1)。
也许很多人不相信用这么简单的数学模型能解决复杂的语音识别、机器翻译等问题。其实不光是常人,就连很多语言学家都曾质疑过这种方法的有效性,但事实证明,统计语言模型比任何已知的借助某种规则的解决方法都有效。比如在 Google 的中英文自动翻译中,用的最重要的就是这个统计语言模型。去年美国标准局(NIST) 对所有的机器翻译系统进行了评测,Google 的系统是不仅是全世界最好的,而且高出所有基于规则的系统很多。
现在,读者也许已经能感受到数学的美妙之处了,它把一些复杂的问题变得如此的简单。当然,真正实现一个好的统计语言模型还有许多细节问题需要解决。贾里尼克和他的同事的贡献在于提出了统计语言模型,而且很漂亮地解决了所有的细节问题。十几年后,李开复用统计语言模型把 997 词语音识别的问题简化成了一个 20 词的识别问题,实现了有史以来第一次大词汇量非特定人连续语音的识别。
我是一名科学研究人员 ,我在工作中经常惊叹于数学语言应用于解决实际问题上时的神奇。我也希望把这种神奇讲解给大家听。当然,归根结底,不管什莫样的科学方法、无论多莫奇妙的解决手段都是为人服务的。我希望 Google 多努力一分,用户就多一分搜索的喜悦。
固定链接 |
分享到:
相关推荐
第05章 n-gram语言模型 共78页.ppt 第06章 Markov模型 马尔科夫模型 共57页.ppt 第07章 句法分析技术 共61页.ppt 第08章1 问答系统基础 共24页.ppt 第08章2 问答式信息检索的理论与方法研究进展报告 共31页.ppt 相似...
系列一:统计语言模型(Statistical Language Models) 给大家举个例子:在很多涉及到自然语言处理的领域,如机器翻译、语音识别 印刷体或手写体识别、拼写纠错、汉字输入和文献查询中,我们都需要知道一个 文字序列...
这里是 ShowMeAI 持续分享的【开源eBook】系列!内容覆盖机器学习、深度学习、数据科学、数据分析、大数据、Keras、TensorFlow、PyTorch、强化学习、数学基础等各个方向。整理自各平台的原作者公开分享(审核大大请...
第05章 n-gram语言模型 共78页.ppt 第06章 Markov模型 马尔科夫模型 共57页.ppt 第07章 句法分析技术 共61页.ppt 第08章1 问答系统基础 共24页.ppt 第08章2 问答式信息检索的理论与方法研究进展报告 共31页.ppt 相似...
第05章 n-gram语言模型 共78页.ppt 第06章 Markov模型 马尔科夫模型 共57页.ppt 第07章 句法分析技术 共61页.ppt 第08章1 问答系统基础 共24页.ppt 第08章2 问答式信息检索的理论与方法研究进展报告 共31页.ppt 相似...
第05章 n-gram语言模型 共78页.ppt 第06章 Markov模型 马尔科夫模型 共57页.ppt 第07章 句法分析技术 共61页.ppt 第08章1 问答系统基础 共24页.ppt 第08章2 问答式信息检索的理论与方法研究进展报告 共31页.ppt 相似...
第05章 n-gram语言模型 共78页.ppt 第06章 Markov模型 马尔科夫模型 共57页.ppt 第07章 句法分析技术 共61页.ppt 第08章1 问答系统基础 共24页.ppt 第08章2 问答式信息检索的理论与方法研究进展报告 共31页.ppt 相似...
第05章 n-gram语言模型 共78页.ppt 第06章 Markov模型 马尔科夫模型 共57页.ppt 第07章 句法分析技术 共61页.ppt 第08章1 问答系统基础 共24页.ppt 第08章2 问答式信息检索的理论与方法研究进展报告 共31页.ppt 相似...
机器学习数学基础:线性代数+微积分+概率统计+优化算法 机器学习作为现代科技的璀璨明珠,正在逐渐改变我们的生活。而在这背后,数学扮演着至关重要的角色。线性代数、微积分、概率统计和优化算法,这四大数学领域...
第05章 n-gram语言模型 共78页.ppt 第06章 Markov模型 马尔科夫模型 共57页.ppt 第07章 句法分析技术 共61页.ppt 第08章1 问答系统基础 共24页.ppt 第08章2 问答式信息检索的理论与方法研究进展报告 共31页.ppt 相似...
第6章 统计推理:稀疏数据集上的n元语法模型 6.1 Bins:构造等价类 6.2 统计估计 6.3 组合估计法 6.4 结论 6.5 深入阅读 6.6 习题 第7章 语义消歧 7.1 预备知识 7.2 有监督消歧 7.3 基于词典的消...
统计分析书中的所有数据和案例及程序代码。包括回归分析、各类多元统计模型和数学统计建模。
第05章 n-gram语言模型 共78页.ppt 第06章 Markov模型 马尔科夫模型 共57页.ppt 第07章 句法分析技术 共61页.ppt 第08章1 问答系统基础 共24页.ppt 第08章2 问答式信息检索的理论与方法研究进展报告 共31页.ppt 相似...
《数学建模引论》:这本书是普通高等学校信息与计算科学专业系列丛书之一,内容较为基础,适合初学者入门。但请注意,要学好数学建模,最好先复习高等数学、微积分、线性代数、概率统计等课程,以便更好地理解书中的...
LDA 是一个在文本建模中很著名的模型,类似于 SVD, PLSA 等模型, 可以用于浅层语义分析,在文本语义分析中是一个很有用的模型。很不幸的是,这个模型中涉及的数学知识有点多, 包括 Gamma 函数, Dirichlet 分布, ...
第05章 n-gram语言模型 共78页.ppt 第06章 Markov模型 马尔科夫模型 共57页.ppt 第07章 句法分析技术 共61页.ppt 第08章1 问答系统基础 共24页.ppt 第08章2 问答式信息检索的理论与方法研究进展报告 共31页.ppt 相似...
一个金融领域的大语言模型,由面向不同金融场景的4个模组:金融咨询、金融文本分析、金融计算、金融知识检索问答构成的多专家智慧金融系统。这些模组分别在金融NLP任务、人类试题、资料分析和时事分析等四个评测中...
《统计模拟及其R实现》对每一章节中的例子,都给出了用R语言编写的模拟程序。 《统计模拟及其R实现》可作为统计学、计算数学与应用数学、保险学与管理学、精算学、工程技术等专业本科生教材或其他专业研究生教材,也...
《统计学习方法》是统计学习及相关课程的教学参考书,适用于高等院校文本数据挖掘、信息检索及自然语言处理等专业的大学生、研究生,也可供从事计算机应用相关专业的研发人员参考。 《统计学习方法》 第1章统计学习...