首页 >  SEO >  SEO算法 >  正文

TF-IDF算法、关键词的形成条件

2164

说到SEO优化,那么第一次反应就是关键词的排名。很多人对于关键词的认知就是我在TDK中突出的词,或者把一个词在文章中突出重复,提升这个词的密度就可以让搜索引擎认为这个词是这个页面的关键词,然后一个词是否能成为关键词,并不是简单的重复就可以实现的,更多的是参考TF-IDF算法值来确定一个词是否成为关键词。

什么是TF-IDF

TF-IDF(Term Frequency-Inverse Document Frequency, 词频-逆文件频率).是一种用于资讯检索与资讯探勘的常用加权技术。TF-IDF是一种统计方法,用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加,但同时会随着它在语料库中出现的频率成反比下降。

上述引用总结就是, 一个词语在一篇文章中出现次数越多, 同时在所有文档中出现次数越少, 越能够代表该文章.这也就是TF-IDF的含义.

词频 (term frequency, TF) 指的是某一个给定的词语在该文件中出现的次数。这个数字通常会被归一化(一般是词频除以文章总词数), 以防止它偏向长的文件。(同一个词语在长文件里可能会比短文件有更高的词频,而不管该词语重要与否。)

但是, 需要注意, 一些通用的词语对于主题并没有太大的作用, 反倒是一些出现频率较少的词才能够表达文章的主题, 所以单纯使用是TF不合适的。权重的设计必须满足:一个词预测主题的能力越强,权重越大,反之,权重越小。所有统计的文章中,一些词只是在其中很少几篇文章中出现,那么这样的词对文章的主题的作用很大,这些词的权重应该设计的较大。IDF就是在完成这样的工作.


关键词的生成

TF-IDF算法计算公式


  1. TF计算公式

TF计算公式

逆向文件频率 (inverse document frequency, IDF) IDF的主要思想是:如果包含词条t的文档越少, IDF越大,则说明词条具有很好的类别区分能力。某一特定词语的IDF,可以由总文件数目除以包含该词语之文件的数目,再将得到的商取对数得到。

 

2.IDF计算公式

IDF计算公式

某一特定文件内的高词语频率,以及该词语在整个文件集合中的低文件频率,可以产生出高权重的TF-IDF。因此,TF-IDF倾向于过滤掉常见的词语,保留重要的词语。

 

3.TF-IDF算法计算公式

TF−IDF=TF∗IDF

TF-IDF值越大,则这个词成为一个关键词的概率就越大。


TF-IDF算法实例

以《亚洲的网络技术》为例,假定该文长度为1000个词,"亚洲"、"网络"、"技术"各出现20次,则这三个词的"词频"(TF)都为0.02。 然后,搜索Google发现,包含"的"字的网页共有250亿张(假定这就是中文网页总数),包含"亚洲"的网页共有62.3亿张,包含"网络"的网页为0.484亿张,包含"技术"的网页为0.973亿张。则它们的逆文档频率(IDF)和TF-IDF的计算结果如下:

TF-IDF算法实例

从上表可见,"网络"的TF-IDF值最高,"技术"其次,"亚洲"最低。(如果还计算"的"字的TF-IDF,那将是一个极其接近0的值。)所以,如果只选择一个词,"网络"就是这篇文章的关键词。 除了自动提取关键词,TF-IDF算法还可以用于许多别的地方。比如,信息检索时,对于每个文档,都可以分别计算一组搜索词("亚洲"、"网络"、"技术")的TF-IDF,将它们相加,就可以得到整个文档的TF-IDF。这个值最高的文档就是与搜索词最相关的文档。 TF-IDF算法的优点是简单快速,结果比较符合实际情况。缺点是,单纯以"词频"衡量一个词的重要性,不够全面,有时重要的词可能出现次数并不多。而且,这种算法无法体现词的位置信息,出现位置靠前的词与出现位置靠后的词,都被视为重要性相同,这是不正确的。(一种解决方法是,对全文的第一段和每一段的第一句话,给予较大的权重。)


TF-IDF算法不足

TF-IDF 算法会倾向于选出某一特定文档内的高频词语,同时该词语在整个文档集合中分布是比较集中的。因此,TF-IDF算法倾向于过滤掉常见的词语,保留“独有”词语。但是这也造成了TF-IDF算法的缺陷。 因为IDF的主要思想是:如果包含词条t的文档越少,也就是n越小,idf越大,则说明词条t 具有很好的类别区分能力。如果某一文档C中包含词条t的文档数为m, 而其他类包含t的文档总数为k,显然所有包含t的文档数n = m + k, 当m大的时候,n也大,按照IDF公式得到的IDF的值会小,就说明该词条t 类别区分能力不强。但实际上,如果一个词条在一个类的文档中频繁出现,则说明该词条能够很好地代表这个类的文本特征,这样的词条应该给它们赋予较高的权重,并选来作为该类文本的特征词,以区别于其他类的文档。


比如对于如下几个短文本:

1、鲜花多少钱?

2、白百合多少钱?

3、月季多少钱?

4、香蕉多少钱?


如果按照TF-IDF算法,鲜花、香蕉这些主体词会成为关键词,但是从这些语句的总体来看,他们又都属于询问价格的类型,所以“多少钱”应该成为关键词。这就是IDF的不足之处。

改进的方法可以通过改变文档结构,比如将上述短文本归并为一个文档,这样就可以在增加TF值的同时,也增加IDF值。但是这样就会增加模型的计算成本,需要大量的人为经验加入其中。

申明:本站内容仅代表个人观点,仅供学习参考;未经授权任何个人或组织单位不得复制、转载、摘编以及其它形式的应用! 本站文章可能使用到互联网上的资料,若对您造成困扰,请联系 kk19@foxmail.com除理 本文地址:https://www.chateach.com/seo/seosuanfa/382
相关文章
  • 多域名解析到同一网站利于排名吗?

    多域名解析

    多域名解析到同一个网站,个人觉得这种行为就是闲的,没事找事给自己挖坑。多域名解析到同一个网站,首先运营上的意义不大,并且非常容易出现重复收录,权重分散的问题,所以除非有迫不得已的原因,打死都不要去多域名解析到一个网站。

    995
    • 多域名解析
  • 带Nofollow标签的外链还有价值吗?

    nofollow,外链

    在 SEO(搜索引擎优化)的世界里,“外链”一直被视为网站权重和排名的重要因素之一。然而,当这些外链被加上rel="nofollow"标签时,这样的链接还有价值吗? 带Nofollow标签的外链毫无价值吗?

    110
    • nofollow
    • 外链
  • 网站快速排名怎么做?

    网站快速排名

    网站快速排名怎么做?怎样才能网站有好的排名?网站快速排名有以下几种方法可以完成。网站优化排名不是一天两天的事情,是 一个月两个月往上走的事情!SO,如果你三天打渔两天晒网,就不要浪费钱了。

    900
    • 网站快速排名
  • SEO优化未来发展方向

    SEO优化发展

    SEO优化未来发展方向?如何才能立于不败之地?对于做SEO优化来说,尤其是对于刚入行的优化者来说,会担忧这个行业的发展。入SEO这个行业有没有前途。必然SEO优化是一项充满着挑战变数的工作....

    1908
    • SEO优化发展
  • 网站图片技术优化要点

    网站图片优化

    网站图片技术优化要点,在网站SEO优化工作中,对于图片的优化与调整一直都是工作的重点内容之一。因为图片作为网站内容展示最为直观与形象的表现,是很多文字内容无法完全表达的重要补充。

    2050
    • 网站图片优化
  • 网站内容更新频率对SEO的影响

    SEO的影响,内容更新

    ​想必大家都听过,每天要定时定量的更新内容,来促进蜘蛛的抓取从而获取到更高SEO效果,相信很多站点都一直坚持着内容的更新。这么做虽然没有大问题,但是很多时候却是在徒劳的浪费人力。

    823
    • SEO的影响
    • 内容更新
  • 搜索引擎如何判断内容的原创

    如何判断内容的原创

    搜索引擎其实并不能判断内容的到底是谁原创,看似有点惨无人道,原创成为抄袭。

    1691
    • 如何判断内容的原创
  • flash、ifream、js、ajax不利于抓取收录吗

    ajax,flash,ifream,js,不利于抓取,抓取不到

    flash、ifream、js、ajax搜索引擎抓取不到,所以网站优化的时候就要去避免使用这些代码,这种想法是错误的,片面的,只要合理使用也可以帮助优化!

    1586
    • ajax
    • flash
    • ifream
    • js
    • 不利于抓取
    • 抓取不到
  • SEO优化中如何控制关键词密度频率

    关键词密度,关键词频率

    SEO优化中如何控制关键词密度频率,关键词的密度不是越高越好,不同行业网站的密度的阈值也是不一样宁愿关键词密度低,也不要的一味去堆砌关键词。

    1622
    • 关键词密度
    • 关键词频率
  • 跳出率对网站排名的影响

    排名影响因素,网站跳出率

    网站跳出率对于网站的排名有一定的影响因素,当然并不是所有的跳出行为会对排名优化有负面影响,简单的描述了跳出率与排名因素的相关关系!

    1815
    • 排名影响因素
    • 网站跳出率
  • 新站SEO优化全攻略:如何在搜索引擎中脱颖而出

    新站优化

    随着搜索引擎算法的不断进步,对于新站而言,实现有效的SEO优化变得前所未有的挑战。尤其对于那些零基础的新站点来说,想要在搜索结果中占据一席之地更是难上加难。然而,“好的开始是成功的一半”,正确的起步能够为新站打下坚实的基础。今天,就与潘某人SEO一起探讨下新站SEO优化的关键要素,如何让网站快速成长。

    73
    • 新站优化
  • 是什么在拉低阻碍站点的权重

    影响网站权重的因素

    分析下传统企业建站的站点有哪些问题是影响网站权重提升的因素。如果一个网站的结构上先天不足,那么对于后期优化真的是阻碍重重很折磨人......

    2050
    • 影响网站权重的因素
  • 关键词密度,在SEO中的作用!

    关键词密度

    关键词密度对于关键词的排名有着重要影响,那么关键词密度多少合适呢?相信大家经常听到网上的说法,控制关键词密度2-8%之间。这种说法其实是不对的,对于不同行业适合的关键密度肯定是不一样的。

    1138
    • 关键词密度
  • 用户喜欢的内容的样子,你知道吗

    SEO优化,用户喜欢的内容

    SEO优化回归本质是内容的优化,内容的核心是基于用户的需求,那么你了解用户吗?用户真正想要的内容是怎么样呢?当你搞明白了这个问题,相信对于的SEO优化会有很大的帮助。

    887
    • SEO优化
    • 用户喜欢的内容
  • 网站页面更新对seo的影响

    页面更新的影响

    页面更新是网站优化中一个提升网站评级的重要因素,一个拥有良好更新频率的站点可以获得更好的排名优待。但是很多站点对于更新有一定的误解。

    838
    • 页面更新的影响
  • robots文件有什么用

    robots有什么作用

    robots文件作用对于SEO优化不可忽视给i,可以有效提高网站内容的质量减少重复收录,保护隐私数据不被抓取!

    1679
    • robots有什么作用
  • SEO诊断思路:从展现到点击,轻松判断你的网站优化效果!

    SEO诊断,网站优化

    在竞争激烈的互联网时代,网站SEO优化早已成为每个站长和运营者必须掌握的核心技能。然而,很多人做了大量的内容优化、关键词布局,却始终看不到排名提升、流量增长。问题出在哪?你真的会“诊断”网站的SEO效果吗?今天,潘某人SEO从展现与排名出发,教你如何快速判断网站的SEO优化效果。

    61
    • SEO诊断
    • 网站优化
  • 别让网站打开速度毁了SEO优化

    网站速度

    在当今的数字时代,网站的打开速度不仅关乎用户体验,更是影响搜索引擎优化(SEO)效果的关键因素。潘某人SEO带你探讨网页加载速度对SEO的影响,并提如何提高你网站的速度。

    84
    • 网站速度
-- 这已经是底线了,看看别的把! --