站长平台lee:搜索引擎索引系统概述

今日,百度站长平台Lee撰文介绍了索引系统的相关问题概述。罗列出了如何能够在最快的速度内返回用户查找结果,从而提高用户体验度的相关信息。

搜索引擎索引系统概述原文如下:

众所周知,搜索引擎的主要工作过程包括:抓取、存储、页面分析、索引、检索等几个主要过程。过去几周给大家介绍了抓取相关的简要过程。今天简要介绍一下索引系统,以亿为单位的网页库中查找特定的某些关键词犹如大海里面捞针,也许一定的时间内可以完成查找,但是用户等不起,从用户体验角度我们必须在毫秒级别给予用户满意的结果,否则用户只能流失。怎样才能达到这种要求呢?

如果能知道用户查找的关键词(query切词后)都出现在哪些页面中,那么用户检索的处理过程即可以想象为包含了query中切词后不同部分的页面集合求交的过程,而检索即变成了页面名称之间的比较、求交。这样,在毫秒内以亿为单位的检索成为了可能。这就是通常所说的倒排索引及求交检索的过程。如下为建立倒排索引的基本过程:

站长平台lee:搜索引擎索引系统概述

(1)页面分析的过程实际上是将原始页面的不同部分进行识别并标记,例如:title、keywords、content、link、anchor、评论、其他非重要区域等等;

(2)分词的过程实际上包括了切词分词同义词转换同义词替换等等,以对某页面title分词为例,得到的将是这样的数据:term文本、termid、词类、词性等等;

(3)之前的准备工作完成后,接下来即是建立倒排索引,形成{termàdoc},可以粗略的理解为如下,为什么是【term->doc】,而不是直接应用【doc->term】呢?

站长平台lee:搜索引擎索引系统概述

上述即是索引系统中的倒排索引过程,是搜索引擎实现毫秒级检索非常重要的一个环节。

2013年10月28日更新:

上面简要介绍过了搜索引擎的索引系统,实际上在建立倒排索引的最后还需要有一个入库写库的过程,而为了提高效率这个过程还需要将全部term以及偏移量保存在文件头部,并且对数据进行压缩,这涉及到的过于技术化在此就不多提了。今天简要给大家介绍一下索引之后的检索系统。

检索系统主要包含了五个部分,如下图所示:

站长平台lee:搜索引擎索引系统概述

(1)Query串切词分词即将用户的查询词进行分词,对之后的查询做准备,以“10号线地铁故障”为例,可能的分词如下(同义词问题暂时略过):

10 0x123a**

号 0x13445d

线 0x234d

地铁 0x145cf

故障 0x354df

(2)查出含每个term的文档集合,即找出待选集合,如下:

0x123a** 1 2 3 4 7 9…..

0x13445d 2 5 8 9 10 11……

……

……

(3)求交,上述求交,文档2和文档9可能是我们需要找的,整个求交过程实际上关系着整个系统的性能,这里面包含了使用缓存等等手段进行性能优化;

(4)各种过滤,举例可能包含过滤掉死链、重复数据、色情、垃圾结果以及你懂的;

(5)最终排序,将最能满足用户需求的结果排序在最前,可能包括的有用信息如:网站的整体评价、网页质量、内容质量、资源质量、匹配程度、分散度、时效性等等,之后会详细给大家介绍。

文章来源:百度站长平台

相关文章:搜索引擎抓取系统概述

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至253000106@qq.com举报,一经查实,本站将立刻删除。

发布者:卢松松,转转请注明出处:https://www.chuangxiangniao.com/p/1070253.html

(0)
上一篇 2025年1月13日 16:32:06
下一篇 2025年1月11日 17:36:54

AD推荐 黄金广告位招租... 更多推荐

相关推荐

  • 百度站点索引量查询新增子目录查询

    百度站长平台增加了站点索引量查询功能,可以查询子目录和子域名下的收录情况,这是一个不错的功能。不过对于收录数在10条以下的目录,则无法查询,这对收录少的站或新站没有太大作用。 site查询的值仅作参考,详细查索引量需使用站长平台索引量查询工…

    2025年1月13日
    100
  • 百度:搜索引擎抓取系统概述

    编者按:站长朋友们,今后定期都将在这里跟大家分享一些有关搜索引擎工作原理及网站运营相关的内容,今天先简单介绍一下关于搜索引擎抓取系统中有关抓取系统基本框架、抓取中涉及的网络协议、抓取的基本过程三部分。 互联网信息爆发式增长,如何有效的获取并…

    2025年1月13日
    100
  • 如何让搜索引擎抓取AJAX内容?

    越来越多的网站,开始采用”单页面结构”(Single-page application)。 整个网站只有一张网页,采用Ajax技术,根据用户的输入,加载不同的内容。 这种做法的好处是用户体验好、节省流量,缺点是AJA…

    2025年1月13日
    100
  • 禁止搜索引擎收录的方法

    1. 什么是robots.txt文件? 搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息。spider在访问一个网站时,会首先会检查该网站的根域下是否有一个叫做 robots.txt的纯文本文件,这个文件用于指定spider…

    好文分享 2025年1月13日
    100
  • 搜索引擎网页去重算法分析

    相关统计数据表明:互联网上近似重复的网页的数量占网页总数量的比例高达29%,完全相同的网页大约占网页总数量的22%.研究表明,在一个大型的信息采集系统中,30%的网页是和另外70%的网页完全重复或近似重复的。 即:互联网的网页中相当高的比例…

    2025年1月13日
    100
  • 搜索引擎良心排名

    最差到最好排名:百度、搜狗、搜搜、360、谷歌!在百度上搜索“复旦大学附属眼耳鼻喉科医院”,前3项都是其他医院广告,查了20页还没找到正确网站。搜狐sogou.com,结果比百度好不到哪去。腾讯soso.com,第三条搜到正确网站,360s…

    IT业界 2025年1月13日
    100
  • 搜索引擎的Robots规则

    robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取。 robots.tx…

    好文分享 2025年1月13日
    100
  • JavaScript解析:让搜索引擎看到更真实的网页

    长期以来,站长们选择使用JavaScript来实现网页的动态行为,这样做的原因是多种多样的,如加快页面的响应速度、降低网站流量、隐藏链接或者嵌入广告等。由于早期的搜索引擎没有相应的处理能力,导致在索引这类网页上往往出现问题,可能无法收录有价…

    好文分享 2025年1月13日
    100
  • 搜索引擎基于链接的排序算法

    向大家推荐这篇较早以前的文章,其实很多经典的文章,SEO的价值含量才更多。 基于链接的排序算法似乎已广泛应用到各种商业搜索引擎中。为了让设计出来的网站能够在各种搜索引擎中获得较高排名,设计者们应该知道这些算法的原理。 Google排名的成功…

    好文分享 2025年1月13日
    100
  • 谷歌论文:大规模的超文本网页搜索引擎的分析

    本文是谷歌创始人Sergey和Larry在斯坦福大学计算机系读博士时的一篇论文。发表于1997年。在网络中并没有完整的中文译本,现将原文和本人翻译的寥寥几句和网络收集的片段(网友xfygx和雷声大雨点大的无私贡献)整理和综合到一起,翻译时借…

    2025年1月13日 好文分享
    100

发表回复

登录后才能评论

联系我们

156-6553-5169

在线咨询: QQ交谈

邮件:253000106@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

联系微信