宁波seoesball提款:将半结构化的HTML网页中的数据按照约

发布时间:2018-09-22 18:49

  简述布隆过滤器的基本工作原理。
  编写robots,txt文件,禁止所有捜索引擎爬虫抓取/main/目录,以及/www/目录下的index,html文件。
  囑翼傖黡鬵逊鼉鏡窣
  对于信息预处理系统来说,最主要的工作就是从抓取的网页中提取有价值的,能够代表网页的属性(如网页的URL、编码类型、标题、正文、关键词等),并将这些属性组成一个网页的对象。然后根据一定的相关度算法进行大量复杂的计算,得到每一个网页针对页面内容及链接每一个关键词的相关度,并用这些信息建立索引数据库。
  从网页中提取关键词,至少要作两部分的工作:一是将网页的源代码整理成一个可以有层次的、利于分析的、包含原始网页中的各种属性的网页对象,即DOM树;二是从整理出来的网页对象中提取文本内容,将这些文本内容切分成以词为单位的集合。
  本章主要介绍网页信息结构化、文本处理技术和PageRank算法。
  囫冠儋鳳詾傯
  结构化数据是指被标签定义了其内容、意义和用法的数据。结构化数据除了包含数据本身之外,一般还包含对数据的描述信息,而且其中的数据与描述信息都按照严格的规则进行组织。语法上不具有层次特点的数据称为非结构化数据。介于结构化数据和非结构化数据之间的数据称为半结构化数据。
  结构化的数据模型可以用二维表(关系型)来表示,半结构化数据模型可以用树和图来表示,非结构化数据没有数据模型。结构化数据的特点是先有结构,再有数据,半结构化数据的特点是先有数据,再有结构。典型的结构化数据的格式有XML、XHTML、INI等,半结构化数据的格式有HTML。
  网页结构化的目标
  网页结构化的目标是根据捜索的需要,将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象。一个网页对象至少有5个属性。
  锚文本:锚文本除了网页标题可以描述网页之外,还会有一些锚文本来描述,例如百度的主页可能被另外一些网页中存在的锚所指向。
  :标题是指HTML标识语言中<title〉<Aitle>中间的文字部分,这部分文字表达了网页的基本含义,和锚文本一样都是用来描述网页内容的属性。
  正文标题:在HTML中,由于一般的网页在<title>标签中都不写内容,因此要抽取正文中的适当文字作为正文的标题。
  :正文是一个网页的主题内容,它完整地表述了网页中的主体内容,一般出现在<body></body〉中。
  :正向链接是网页引导用户浏览下一个页面的锚点,这些连接的文字也是其他网页的锚文本。
  例如,建立一个简单的HTML文件,文件名为index,html。
  
  
  t
  
  
  
    
  搜索引擎基础教程:第1章
  <七办搜索引擎基础教程:第2章
  捜索引擎基础教程:第3章
  
  

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片249

  
  用IE浏览器打开后,如图4-1所示。
  图4-1简单网页示例
  从图4-1中可以看出,在浏览器标题栏中显示的是标题,在浏览器中显示的是网页的正文。为了完成结构化的目标,首先要建立HTML标签树,即DOM树,然后要对网页的正文进行投票来识别正文的文本,并按照深度优先的遍历规则组织正文。
  建立DOM树
  DOM的全称是DocumentObjectModel,即文档对象模型。在使用过程中,首先要将HTML网页转换成XML格式,然后使用XML分析器将一个XML文档转换成一个对象模型的集合(通常称DOM树>。应用程序正是通过对这个对象模型的操作,来实现对XML文档数据的操作。通过DOM接口,应用程序可以在任何时候访问XML文档中的任何一部分数据,因此,这种利用DOM接口的机制也被称作随机访问机制。
  DOM接口提供了一种通过分层对象模型来访问XML文档信息的方式,这些分层对象模型依据XML的文档结构形成了一棵结点树。无论XML文档中所描述的是什么类型的信息,即便是制表数据、项目列表或一个文档,利用DOM所生成的模型都是结点树的形式。也就是说^DOM强制使用树模型来访问XML文档中的信息。由于XML本质上就是一种分层结构,所以这种描述方法是相当有效的。
  两页内容的DOM树表示
  建立DOM树的过程就是将网页中的标签按照出现的顺序整理出来,并用适当的结构记录过程。由于标签之间的嵌套关系,因此整理结果是一个树状结构。
  在用户浏览的网页中,那些HTML标签,如<11丁^11^>和<丁八61^>在显示过程中都不会以字符的方式显示出来,这是因为浏览器在解析网页过程中也进行了建立DOM树的操作。因此,系统需要建立一个DOM树来对抓取的网页进行分析。图4-2为index,html文件的DOM树。
  DOM树的遭立过曜
  HTML语法中,各种标签都是成对出现的,这样可以分析一个标记的始末。因此,在解析网页的过程中需要一个标签分析栈的数据结构。栈结构是一种先进后出的线性表结构,栈结构的这种特性为分析工作提供了可能。具体步骤如下:
  建立标签分析栈;
  顺序读取网页标签并依次人栈;
  文本结点不人栈;
  成对标签同时退栈。
  DOM树建立以后,遍历树中的每个结点,将其中的文本送到分词模块进行处理。下面是用Java编写的一段遍历DOM树的程序。
  publicclassRecurDCMNodenode;
  inti;
  if(nodel1st.getLength()==0)
  {
  //该结点没有子结点返回

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片250

  return;
  }
  for(i=0;i  node=nodelist.item;
  if(node.getNodeType()--Node.ELEMENT_NODE)RecurDOM(node.getChildNodes());//递归调用4.1.3网页内容的获取
  由于网页半结构化的特性,得到一个完整的网页内容非常复杂。首先,网页中没有明显的标签标识出网页的正文,其次正文可能分散在多个HTML标签中,问题是如何组合才能获得完整的网页正文。
  正文分缺
  正文具有分块保存的特性,因此引人文本块的概念,对于那些诸如<?〉</?>等标签间的文本认为是一个文本块。例如<TD>捜索引擎基础教程:第1章</丁0>称为一个文本块。一般来说,网页会出现3种类型的文本块。
  主题型文本块
  主题型文本块是大段文字的文本块,如“<TD>搜索引擎基础教程:第1章</丁^>”。
  目录型文本块
  目录型文本块是描述链接的文本块,如“<ahref=”“〉搜索引擎基础教程:第1章</a>”。

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片257

  图片型文本块。
  图片型文本块是描述图片的文本块,如“<imgsrc=”“〉捜索引擎基础教程:第1章</img〉,‘。

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片254

  投累算法
  目录型文本块和图片型文本块相对容易被区分;而主题型文本块中可能包含广告等其他内容,必须与正文相区别。判断哪个文本块是正文采用称为”投票算法“的计算方法,这种方法在捜索引擎中特别常用。

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片251

  投票算法的过程是,首先定义一系列规则,然后通过这些规则为每一个文本块打分。得分最高的被认为是正文的可能性足够大,并且可以接受,假定一个规则集合中包含以下3条规则,实际的规则往往更加繁多和复杂。
  如果文本块文本的长度少于10个字,得分为0;10——50个字,得分为。5分;介于250个字之间,得分为8分5超过250个字,得分为10分。
  如果文本块文本的位置在右侧,得分为0分;在顶部,得分为3分;在左侧,得分为5分;在中间,得分为10分。
  投票算法的过程是依据不同规则从不同的角度依次打分,文本块得分高的是正文的一部分。
  除此之外,规则的定义还需要通过足够多的网页进行反馈,之后才能得到一个公正客观的打分。最后还需要注意:如果规则A打分为1000分,规则B为10分。那么很显然,规则B对最后打分结果影响力几乎可以不考虑,因此如何平衡规则对最后结果的影响也需要充分考虑。这是因为规则的重要性不同可以适当拉开距离,但有时需要在可以接受的范围内保持这种距离。
  镘取正文

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片256

  打分之后的工作就是将一个个文本块组织成一个正文。深度优先遍历DOM树并依次记录主题类型的文本块,即可得到该网页的正文。如图4-2所示,按照深度优先,可以依次提取文本块并按照顺序组织成正文”搜索引擎基础教程:第1章搜索引擎基础教程,第2章搜索引擎基础教程:第3章“。
  对于其他网页属性抽取,例如正文标题等也大多采用相同或类似的方法。

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片253

  不是所有的单词都能等同地表示一个文本的语义。在书面语言中,一些词汇与其他词汇相比能够表达更多的意思。一般说来,名词是最能够表达文档的内容的。这样就有必要对文档进行预处理,以决定对哪些词汇建立索引。在对文档进行预处理的过程中,还有一些其他有用的文本操作,比如无用词汇的删除、词干提取技术、词典的生成和文本的压缩等。
  文本处理的过程可以分为如下5个步骤:
  文本的词法分析,它主要是对文本中的数字、连接符、标点符号和字符的大小写进行处理;无用词汇的删除,它主要是过滤掉那些对于信息获取过程来说区分能力低的词汇;词干提取,它主要是去除词缀(前缀和后缀),这样可以允许所获取的文档包含一些査询词条的变换形式;索引词条/词干的选择,在选择的时候通常按照单词的习惯用法,实际上名词往往要比形容词、副诃和动词包含更多的语义;构造词条的分类结构,例如词典或者结构抽取,利用它可以进行査询的扩展。

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片260

  在中文信息的获取过程中,还需要利用中文分词技术对文本进行预处理。
  词法分析

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片258

  词法分析的过程是将字符串(文档中的文本)转换成词条的过程,这些词条可能被用来作为索引词条。因此词法分析的主要目的就是识别文本中的词条。
  在对英文进行分词的过程中,除了空格分隔符,还有几种特殊的惰况要处理:数字、连字符、标点符号和字母的大小写。

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片255

  数字一般不适合用作索引词条,因为对于数字来说,如果木参考上下文,它就没有明确的含义。因此一般说来,信息获取系统都不对数字进行索引,但是常常碰到数字和单词混合的情况,比如”2009B.C.“,而该单词是个非常重要的索引词条。因此现在常用的方法是保留一些专门指出的(通过与正规表达式的匹配)数字,而将其他数字过滤掉。对于保留下来的数字,词法分析程序将把日期和一些重要的数字进行规范化,以统一数字的格式。
  连字符是造成词法分析困难的又一原因。一种方法是将连字符都忽略掉,例如,stateof-the-art等同于stateoftheart。但是对于那些将连字符作为一个整体部分的词条来说这就显然不可行了,比如P&42D8等。对于连字符的处理,目前常用的是首先采用一定的规则选出那些对词义有影响的连字符号,然后将其他连字符都过滤掉。

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片252

  对于文本中的标点符号,一般说来在词法分析过程中将被全部去除。但是,对于那些成为单词中一部分的标点符号来说,一般不可以去除,比如如果在”2009B.C.“中去掉标点符号的话,该单词的意思就完全改变了。然而这种情况不一定会影响信息获取的性能,因为现在大多数信息获取系统中,如果用户在査询串中输人”2009B.C.“,那么在査询串与文档中都去掉标点符号”将不会影响文档的获取。但是还有一种特殊情况,就是如果一个程序片段出现在文本中,这时候就需要区分变量x.id与xid了。在这种情况下,标点符号应该给予保留。
  字母的大小写对于区分索引词条说来一般不是很重要,因此可以将文本中的所有词条都转换成大写或者小写。但是在某些特殊情况下,也需要对大小写进行区分,例如对于描述UNIX命令的文档,这时候用户其实不希望改变文档中的大小写,因为这里的大小写都是约定俗成的。
  以上这些问题都是词法分析过程中需要考虑的问题,它们将对文档获取所花费的时间产生重要影响。
  中文分词技术
  所谓分词,指的就是将一个完整的句子划分为一个个词条的过程=这种词条应当满足某种语言规则,以便于为其建立索引=只有通过这样的方式,才能完成对一种语言的分析和检索。
  中文分谓的方法
  关键词査询的前提是将査询条件分解成若干关键词,对于英文来说,分词是一件很容易的事。因为空格就是它们天然的分隔符。一个软件可以很轻易地根据英文文本中的分隔符为之切分出一个一个的单词来。然而对于中文来说,情况就复杂多了。主要的问题是中文词与词之间没有分界符,需要人为切分。此外汉语中存在大量的歧义现象,对几个字分词可能有好多种结果。例如对“中华人民共和国”这样一个词进行分词,那么可以分为“中华”、“人民”、“共和国”,或是“中”、“华人”、“民”、“共和国'
  很显然,前一种分词方法较好。可是如何来判别分词的好坏呢?如果是人,则可以通过大脑进行分词识别,可是如何才能让机器知道对同组、对句子进行词语的切分呢?因此,可以根据语料库进行总结,获得每个词的出现概率以及词与词的关联信息,这样就可能有效地排除各种歧义,大幅度提高分词的准确性,从而准确地表述査询请求和文档信息=中文分词技术采用了统计方法和基于规则的方法来识别词边界和专有名词。下面就具体讲述中文分词的方法。
  想对中文进行分词,通常情况下有几种方式。
  单字切分
  单字切分,顾名思义,就是按照中文一个字一个字地进行分词。以这样方式切分出来的词再进人索引,称为字索引。很显然,这不是一种很好的分词方式,因为随着索引的增大,相应索引条目的内容会不断增大,严重影响效率。另外,当用户对索引进行检索时,如果用户输人5个字,则相当于要对索引进行5次检索,严重的影响效率。
  二分法
  第一种方式就是无论什么词,都使用二分法来进行切分。所谓二分法,就是指每两个字进行一次切分。如对”北京林业大学“这样一个词组进行二分法切分,则结果如下:
  北京/京林/林业/业大/大学
  这种切分方式完全不考虑词义、语境,机械地对语句进行处理。虽然结果看起来有些可笑,然而,在很长一段时间内,它一直是中文分词的一种很方便的方式。根据这样分词效果建起来的索引会存有大量垃圾词汇,有些可能是用户根本不可能检索的词。因此,它也不是一种最好的方式。
  词库分词

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片261

  一直以来,词库分词被认为是最理想的一种中文分词方式。所谓词库分词其实就是用一个已经建立好的词的集合(按某种算法)去匹配目标,当遇上集合中已经存在的词时,就将之切分出来。例如词库中已经存在了”天涯若比邻“这个词时,分词器就会把它当作一个词条加人索引。
  很显然,对于这种分词方式,词库的建立便成了关键。通常,词库的建立需要统计大量的内容,然后根据各种词出现的频率、概率再来进行筛选,最终决定什么词应当放人词库。
  另外,一些更加髙级的词库还加人了语义和词性的标注,甚至还有不同词的权重。使用这样的词库进行分词的效果应该是很理想的。
  中文分词的系统评价
  通常对于分词系统性能的鉴定主要依据以下几种评价指标。
  用户相应度
  主要指用户对这项技术的满意度,顾客的满意度也只有系统的质量、系统的性能、系统的稳定性和系统的兼容性才能达到。也只有这样,这项技术才能在市场中畅镅不衰。
  兼容性
  兼容性非常重要,因为不同的企业或个人所使用的系统并不完全相同,所以希望能在不同的系统中都可以毫无障碍地使用,而且能给各行各业都带来方便。
  准确率
  准确率=切分结果中正确分词数/切分结果中所有分词数X100%准确率是分词系统性能的核心指标,系统的准确率越髙越好,能接近100%是开发者所期望达到的,也是用户所希望的。目前分词系统的准确率已经达到了98%,但是这并不是最理想的。若这种分词系统被用来支持句法分析,假定平均每句话有10个汉语词,那么10句话中会错切2个词,含有切分错误的2个词就不可能被正确处理。因此仅仅由于分词阶段的准确度不够,语言理解的准确率就会减少20%。所以对于分词技术来讲,准确率尽可能接近100%是最好的。
  运行效率
  在分词系统中分词是各种汉语处理应用系统中共同的、基础性的工作,这步工作消耗的时间应尽量少,使用户没有等待的感觉,在普遍使用的平台上大约每秒钟处理10000字或5000词以上为宜,这样实现髙效率。
  适用性
  适用性是普遍性的基础,汉语分词也是一样,它只是——种实现方法而不是目的,任何分词系统产生的结果都是为某个具体的应用服务的,好的分词系统具有良好的适用性,可以方便地集成在各种各样的汉语信息处理系统中。
  通用性
  随着网络信息化的飞速发展,以及网络信息使用的普遍化,中文平台的处理能力不能仅限于国内,仅限于日常应用领域。作为各种髙层次中文处理的共同基础,中文分词系统必须具有很好的通用性。中文分词系统应支持不同地区的汉语处理;应能适应不同地区的不同用字、用词,不同的语言风格,不同的专用名构成方式等;支持不同的应用目标,包括各种输人方式、简繁转换、语音合成、校对、翻译、检索、文摘等;支持不同领域的应用,包括社会科学、自然科学和技术,以及日常交际、新闻、办公等;为了做到足够通用又不过分庞大,必须做到在词表和处理功能、处理方式上能灵活组合装卸,有充分可靠和方便的维护能力,有标准的开发接口。同时,系统还应该具有良好的可移植性,即使不能做到完全通用,但是也要相对全面。
  中文分词算法
  中文分词的算法主要有正向最大匹配、逆向最大匹配、双向最大匹配、最佳匹配法、最少分词法、词网格算法、逐词遍历法、设立切分法、有穷多层次列举法、二次扫描法、邻接约束法、邻接知识约束法和专家系统法等。
  现有的分词算法可分为3大类:基于字符串匹配的分词方法、基于理解的分词方法和基于统计的分词方法。
  基于字符串匹配的分词方法
  这种方法又叫做^11械分词方法,它是按照一定的策略将待分析的汉字串与一个”充分大的“机器词典中的词条进行匹配,若在词典中找到某个字符串,则匹配成功(识别出一个词)。按照扫描方向的不同,串匹配分词方法可以分为正向匹配和逆向匹配;按照不同长度优先匹配的情况,可以分为最大(最长)匹配和最小(最短)匹配;按照是否与词性标注过程相结合,又可以分为单纯分词方法和分词与标注相结合的一体化方法。常用的几种机械分词方法如下所示。
  最大匹配法(ForwardMaximumMatchingmethod,FMM):FMM算法是正向最大匹配算法,它是基于字符串匹配的一种分词方法,其主要的算法思想是,选取包含8个汉字的符号串作为最大符号串,把最大符号串与词典中的单词条目相匹配,如果不能匹配,就削掉一个汉字继续匹配,直到在词典中找到相应的单词为止=匹配的方向是从左向右。下面应用一个简单的例子来说明算法的过程:
  假设要分词的语料为:”管理学基础课程是十个学时“,设定一个最大词长为5。
  Pl=”管理学基础课程是十个学时“,MAXLEN=5,P2=”“。
  ①P2=”“;P1不为空,从Pl左边取出候选子串M=”管理学基础“;②査词表,”管理学基础“在词表中,将M加入到P2中,P2=”管理学基础/“,并将M从Pl中去掉,此时Pl=”课程是十个学时“;
  ③P1不为空,于是从P1左边取出候选子串M=”课程是十个“;④査词表,M不在词表中,将M最右边一个字去掉,得到M=”谋程是十“;⑤査词表,M不在词表中,将M最右边一个字去掉,得到M=”课程是“;⑥查词表,M不在词表中,将M最右边一个字去掉,得到M=”课程⑦査词表,M在词表中,将M加人到P2中,P2=“管理学基础/课程/”,并将M从P1中去掉,此时Pl=“是十个学时”;⑧P1不为空,于是从P1左边取出候选子串“是十个学时”;⑨査词表,M不在词表中,将M最右边一个字去掉,得到M=“是十个学”;⑩査词表,M不在词表中,将M最右边一个字去掉,得到M=“是十个”;?査词表,M不在词表中,将M最右边一个字去掉,得到M=“是十”;?査词表,M不在词表中,将M最右边一个字去掉,得到M=“是”,这时M是单字,将M加人到P2中,P2=“管理学基础/课程/是/”,并将M从P1中去掉,此时Pl=“十个学时”;?P1不为空,从P1左边取出候选子串M=“十个学时”;?査词表,M不在词表中,将M最右边一个字去掉,得到M=“十个学”;?査词表,M不在词表中,将M最右边一个字去掉,得到M=“十个”;?査词表,M不在词表中,将M最右边一个字去掉,得到M=“十”,这时M是单字,将M加人到P2中,P2==“管理学基础/课程/是/十/”,并将M从P1中去掉,此时Pl=“个学时”;?P1不为空,从P1左边取出候选子串M=“个学时”s?査词表,M不在词表中,将M最右边一个字去掉,得到M=“个学”;?査词表,M不在词表中,将M最右边一个字去掉,得到“个”,这时MJ6单字,将M加入到P2中,P2=“管理学基础/课程/是/十/个/”,并将M从P1中去掉,此时Pl=“学时”;?P1不为空,从P1左边取出候选子串M=“学时”;?査词表,M在词表中,将M加人到P2中,P2=“管理学基础/课程/是/十/个/学时/”,并将M从P1中去掉,此时Pl=“”;?P1为空,输出P2作为分词结果,分词过程结束。
  以上是对一个简单语料进行正向最大匹配算法的完整过程。
  最大匹配算法也同样存在一些不足,对于词长的确定无法做到恰当,宁波seoesball提款掩盖了分词歧义;能发现部分交集性歧义,并且可以通过回溯机制改进算法。
  逆向最大匹配法(BackwardMaximumMatchingmethod,BMM):逆向最大匹配法也是基于字符串匹配的一种分词方法,基本算法和正向最大匹配法相似,只是匹配的方向是从左到右,它的算法比FMM的精确度髙一些。
  双向匹配法(Bi-directionMatchingmethod,BM):对FMM法和BMM法结合起来的算法称为双向匹配法,这种速算法通过比较两者的切分结果,来决定正确的切分,而且可以识别出分词中的交叉歧义。
  最少匹配算法(FewestWordsMatching,FWM):FWM算法实现的分词结果中含词数最少,它和在有向图中搜索最短路径很相似。控制首先要对所选的语料进行分段,然后逐段计算最短路径,得到若干个分词结果,最后进行统计排歧,确定最理想的分词结果。
  网格分词算法:网格分词算法是基于统计性的一种分词算法,它的算法思想是,首先构造候选词网格,利用词典匹配,列举输人句子所有可能的切分词语,并且以词网格形式保存;然后计算词网格中的每一条路径的权值,权值通过计算图中每一结点得一元统计概率和结点之间的二元统计概率的相关信息;最后根据搜索算法在图中找到一条权值最大的路径,作为最后的分词结果。

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片259

  另外,还有一种方法是改进扫描方式,称为特征扫描或标志切分,优先在待分析字符串中识别和切分出一些带有明显特征的词,以这些词作为断点,可将原字符串分为较小的串再来进行机械分词,从而减少匹配的错误率。另——种方法是将分词和词类标注结合起来,利用丰富的词类信息对分词决策提供帮助,并且在标注过程中又反过来对分词结果进行检验、调整,从而极大地提髙切分的准确率。
  基于理解的分词方法
  这种分词方法是通过让计算机模拟人对句子的理解,达到识别词的效果。其基本思想就是在分词的同时进行句法、语义分析,利用句法信息和语义信息来处理歧义现象。它通常包括3个部分:分词子系统、句法语义子系统、总控部分。在总控部分的协调下,分词子系统可以获得有关词、句子等的句法和语义信息来对分词歧义进行判断,即它模拟了人对句子的理解过程。这种分词方法需要使用大量的语言知识和信息。由于汉语语言知识的笼统、复杂性,难以将各种语言信息组织成机器可直接读取的形式,因此目前基于理解的分词系统还处在试验阶段。
  基于统计的分词方法
  从形式上看,词是稳定的字的组合,因此在上下文中,相邻的字同时出现的次数越多,就越有可能构成一个词。因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。可以对语料中相邻共现的各个字的组合的频度进行统计,计算它们的互现信息。定义两个字的互现信息,计算两个汉字X、Y的相邻共现概率。互现信息体现了汉字之间结合关系的紧密程度。当紧密程度髙于某一个阈值时,便可认为此字组可能构成了一个词。这种方法只需对语料中的字组频度进行统计,不需要切分词典,因而又叫做无词典分词法或统计取词方法。但这种方法也有一定的局限性,会经常抽出一些共现频度高,但并不是词的常用字组,例如“这一”、“之一”、“有的”、“我的”、“许多的”等,并且对常用词的识别精度差,时空开销大。实际应用的统计分词系统都要使用一部基本的分词词典(常用词词典)进行串匹配分词,同时便用统计方法识别一些新的词,即将串频统计和串匹配结合起来,既发挥匹配分词切分速度快、效率高的特点,又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。
  分倜中的难超
  中文是一种十分复杂的语言,让计算机理解中文语言更是困难。在中文分词过程中,有两大难题一直没有完全突破。

将半结构化的HTML网页中的数据按照约定的基本属性组合成一个网页的对象的图片248

  歧义识别
  歧义是指同样的一句话,可能有两种或者更多的切分方法。例如,表面的,因为“表面”和“面的”都是词,那么这个短语就可以分成“表面的”和“表面的”。这种称为交叉歧义。像这种交叉歧义十分常见,例如“和服”的例子,就是因为交叉歧义引起的错误。“化妆和服装”可以分成“化妆和服装”或者“化妆和服装”。由于没有人的知识去理解,计算机很难知道到底哪个方案正确。
  交叉歧义相对组合歧义来说还算比较容易处理,组合歧义就必需根据整个句子来判断了。例如,在句子“这个门把手坏了”中,“把手”是个词,但在句子“请把手拿开”中,“把手”就不是一个词?,在句子“将军任命了一名中将”中,“中将”是个词,但在句子“产量三年中将增长两倍”中,“中将”就不再是词。这些词计算机又如何去识别?
  如果交叉歧义和组合歧义计算机都能解决的话,在歧义中还有一个难题,是真歧义。真歧义意思是给出一句话,由人去判断也不知道哪个应该是词,哪个应该不是词。例如,“乒乓球拍卖完了”,可以切分成“乒乓球拍卖完了”,也可切分成“乒乓球拍卖完了”,如果没有上下文其他句子,恐怕谁也不知道“拍卖”在这里算不算一个词。
  新词识别
  新词,专业术语称为未登录词。也就是那些在字典中都没有收录过,但又确实能称为词的那些词。最典型的是人名,人可以很容易理解句子“王军虎去广州了”中,“王军虎”是个词,因为是一个人的名字,但要是让计算机去识别就困难了。如果把“王军虎”作为一个词收录到字典中去,全世界有那么多名字,而且每时每刻都有新增的人名,收录这些人名本身就是一项巨大的工程。即使这项工作可以完成,还是会存在问题,例如,在句子“王军虎头虎脑的”中,“王军虎”还能不能算词?
  新词中除了人名以外,还有机构名、地名、产品名、商标名、简称、省略语等都是很难处理的问题,而且这些又正好是人们经常使用的词,因此对于搜索引擎来说,分词系统中的新词识别十分重要。目前新词识别准确率已经成为评价一个分词系统好坏的重要标志之一。
  无用词删除
  在信息库的文档中太频繁出现的单词将不会成为具肴良好区分能力的词汇。实际上,如果一个单词出现在信息库80%的文档中,该单词对于信息获取过程来说根本没用,这些词统称为无用词汇。在选择索引词条的时候,这些词条常常被过滤掉。一般说来,冠词、介词、连词等都可以算作无用词汇。
  删除无用词汇对于信息获取来说具有重要意义,它可以大大缩小索引空间的大小,而且空间的缩小一般可以在40%左右。
  既然删除无用词汇可以大大地压缩索引信息,那么无用词汇不仅仅有冠词、介词和连词,一些动词、副词和形容词也可以成为无用词汇。信息获取系统中一般都设置一个无用词汇列表。
  尽管删除无用词汇具有如此多的优点,但是删除无用词汇将影响系统的査全率。例如,用户想査找包含短语tobeornottobe的文挡,在删除无用词汇后,对这个短语来说,这些文档只包含词条be。这就使得很难找到包含该短语的文档。由于删除无用词汇存在这样的弊端,一些捜索引擎采用了全文索引,对无用词汇也建立索引。
  词干提取
  在用户査询过程中,经常会发生如下情况:用户输人词汇是信息库中某个相关文档中词汇的一种变形,词汇的变形可以是该词的复数、动名词或过去分词形式等,在这种情况下,可以将文档中的词汇用它们的词干来代替。
  所谓词干是单词的一部分,是去除词的前缀和后缀后剩下的部分。例如单词connect是connected、connecting、connection和connections的词干。由于利用词干来代替原来的;词汇可以将具有相同词根的词汇集中到同一个概念上,因此利用词干提取技术可以在一定:程度上提髙信息获取的性能,同时,由于利用词干提取技术以后,信息获取系统所需要检索!索引的词汇数量减少,这样可以缩小索引空间的大小。
  目前,词干提取技术可以分为4种:词缀删除、表格査询、后续变形和N个字符列。所谓表格査询方法指通过在表格中査找某个词汇的词干来实现,表格中的信息依赖于整个语言中词汇的词干。这就需要相当大的存储空间来存放这个表格,从而致使基于表格査询的词干提取的方法可操作性不强。所谓后续变形词干提取方法主要是通过结构化语言的知识来确定词素的边界,这种方法比词缀删除法要来得复杂。所谓N个字符列词干提取方法是基于对单词中字母是否应该连在一起的识别,这一过程实际上是词条聚类的过程。相对而言,基于词缀删除的词干提取技术不仅比较直观、简单,而且算法比较有效。因此,下面将详细讨论基于词缀删除的词干提取技术,有词缀删除技术中,最重要的就是对词汇中后缀的删除,因为大多数词汇的变形是通过后缀来实现的。目前人们已经研制出了多种关于词缀删除的算法,其中,波特算法以其简单性和有效性而得到广泛应用。
  波特算法是利用后缀列表来删除后缀的,其基本思想是对文本中单词的后缀应用一系列的规则,是目前公认最好的算法。Porter算法使用了560个后缀,上千条规则。例如,规则s->+
  用来将词汇中复数形式的字母S替换为空字符,从而将词汇从复数形式转化为单数形式。在识别词汇后缀的过程中需要检査单词中最后的字母,而且寻找最长的与规则的左边匹配的字母序列。这样,对于规则sses->ss
  s->^
  本文转载自
  宁波seoesball提款www.leseo.net
Seoesball.netesball提款相关拓展:
如何做好SEO搜索引擎esball提款?
seo高清视频在线观看
一篇读懂SEO、SEM区别与优劣势!
单页SEO站群技术用10个esball.netesball提款排名
为什么放弃了SEO这个标签,过时了吗?
seo是什么意思?
SEO是什么
SEO搜索esball提款软件
如何做好SEO的基本步骤
SEO工作职责及工作流程
搜索引擎esball提款(搜索esball提款)
关于esball世博
esball世博介绍
esball世博思维
人才招聘
使用条款
隐私保护
RSS订阅
esball.net地图
新闻动态
esball世博观点
行业动态
频道介绍
服务介绍
案例展示
品牌研究
品牌理论
品牌体系
联系我们
400-680-2900
社会媒体
微信公众平台
微信公众平台
<友情连结> 宁波斯博网络科技有限公司/ 宁波易企网络科技有限公司/ 宁波云网网络科技有限公司/ 围子里新闻/ 晋江市财经/