82搜索为您找到约 5 条结果
www.searchwiki.cn
百科
技术
倒排索引是什么：从词典到 posting list
倒排索引由词典和 posting list 组成。词典保存所有词项，posting list 记录包含该词的文档编号、词频和位置。查询时先查词典拿到候选文档集合，再做交集与打分。位置信息让短语检索成为可能：只有相邻位置连续命中，才算真正匹配。 BM25 是经典的检索打分函数，综合考虑词频、文档长度与逆文档频率。词频越高得分越高，但增长会饱和；文档越长越吃亏，需要做长度归一化；越…
www.searchwiki.cn
百科
技术
网页爬虫的抓取策略与 robots 协议
搜索引擎的核心流程分三步：爬虫抓取网页、解析正文并建立索引、接收查询后召回并排序。抓取阶段要处理重复内容、死链与抓取频率；索引阶段把文本切成词项，记录每个词出现在哪些文档、出现多少次、位置在哪里，这就是倒排索引。 倒排索引由词典和 posting list 组成。词典保存所有词项，posting list 记录包含该词的文档编号、词频和位置。查询时先查词典拿到候选文档集合，再做…
www.searchwiki.cn
百科
技术
中文分词的三个难点：歧义、未登录词与粒度
…识别与粒度选择。工程上常用二元组切分保证召回，再叠加词典词提升精度；查询侧同样切分，并要求词项相邻来近似短语匹配，这样既快又稳。 搜索引擎的核心流程分三步：爬虫抓取网页、解析正文并建立索引、接收查询后召回并排序。抓取阶段要处理重复内容、死链与抓取频率；索引阶段把文本切成词项，记录每个词出现在哪些文档、出现多少次、位置在哪里，这就是倒排索引。 文中步骤已在常见环境下验证，遇到特殊…
www.searchwiki.cn
百科
技术
站内搜索系统设计：召回、排序与摘要高亮
…识别与粒度选择。工程上常用二元组切分保证召回，再叠加词典词提升精度；查询侧同样切分，并要求词项相邻来近似短语匹配，这样既快又稳。 搜索引擎的核心流程分三步：爬虫抓取网页、解析正文并建立索引、接收查询后召回并排序。抓取阶段要处理重复内容、死链与抓取频率；索引阶段把文本切成词项，记录每个词出现在哪些文档、出现多少次、位置在哪里，这就是倒排索引。 文中步骤已在常见环境下验证，遇到特殊…
www.searchwiki.cn
百科
技术
搜索建议与拼写纠错是怎么实现的
倒排索引由词典和 posting list 组成。词典保存所有词项，posting list 记录包含该词的文档编号、词频和位置。查询时先查词典拿到候选文档集合，再做交集与打分。位置信息让短语检索成为可能：只有相邻位置连续命中，才算真正匹配。 BM25 是经典的检索打分函数，综合考虑词频、文档长度与逆文档频率。词频越高得分越高，但增长会饱和；文档越长越吃亏，需要做长度归一化；越…