82搜索为您找到约 4 条结果
www.searchwiki.cn
百科
技术
中文分词的三个难点：歧义、未登录词与粒度
中文没有天然空格，必须先分词。难点在于歧义切分、新词识别与粒度选择。工程上常用二元组切分保证召回，再叠加词典词提升精度；查询侧同样切分，并要求词项相邻来近似短语匹配，这样既快又稳。 搜索引擎的核心流程分三步：爬虫抓取网页、解析正文并建立索引、接收查询后召回并排序。抓取阶段要处理重复内容、死链与抓取频率；索引阶段把文本切成词项，记录每个词出现在哪些文档、出现多少次、位置在哪里，这…
www.searchwiki.cn
百科
技术
站内搜索系统设计：召回、排序与摘要高亮
中文没有天然空格，必须先分词。难点在于歧义切分、新词识别与粒度选择。工程上常用二元组切分保证召回，再叠加词典词提升精度；查询侧同样切分，并要求词项相邻来近似短语匹配，这样既快又稳。 搜索引擎的核心流程分三步：爬虫抓取网页、解析正文并建立索引、接收查询后召回并排序。抓取阶段要处理重复内容、死链与抓取频率；索引阶段把文本切成词项，记录每个词出现在哪些文档、出现多少次、位置在哪里，这…
www.searchwiki.cn
百科
技术
BM25 算法详解：相关性排序的核心公式
…得分越高，但增长会饱和；文档越长越吃亏，需要做长度归一化；越罕见的词权重越大。实际系统还会叠加标题权重、时效性、点击率与站点质量等特征。 中文没有天然空格，必须先分词。难点在于歧义切分、新词识别与粒度选择。工程上常用二元组切分保证召回，再叠加词典词提升精度；查询侧同样切分，并要求词项相邻来近似短语匹配，这样既快又稳。 以上内容整理自公开资料与实操经验，具体参数请以实际环境为准。
www.searchwiki.cn
百科
技术
搜索结果排序：从 TF-IDF 到 BM25 再到学习排序
…得分越高，但增长会饱和；文档越长越吃亏，需要做长度归一化；越罕见的词权重越大。实际系统还会叠加标题权重、时效性、点击率与站点质量等特征。 中文没有天然空格，必须先分词。难点在于歧义切分、新词识别与粒度选择。工程上常用二元组切分保证召回，再叠加词典词提升精度；查询侧同样切分，并要求词项相邻来近似短语匹配，这样既快又稳。 以上内容整理自公开资料与实操经验，具体参数请以实际环境为准。