文章被百度重复收录的原因及解决方案

昨天在查询网站收录数据，看到最近一周收录的文章有三次重复。同个网站内两篇文章重复收录无论是对于读者还是对于都是不好的，一篇同样文章被收录三次，两篇就成了"垃圾"了嘛，据说大量重复收录会被惩罚(没验证过)。

文章重复收录ment-page-1与replyto

点击进入链接，除了原，分别出现

http://.stcash./5273/ment-page-1

http://.stcash./5273?replyto=1989

前面一篇文章居然出现一个三级目录，后面一篇文章又类似于动态网址。我文章中是没有这两个链接地址的，查看网页源码，看出了一点端倪。

我发现了这两个?replyto=1989网址的来源文章评论链接

文章重复收录ment-page-1与replyto

四个评论刚好对应四个replyto，百度蜘蛛可能有一定的智能，四个replyto网址中只收录了一个，又不够智能，没有区分出来评论链接和原文链接对应的文章内容是相同的。

ment-page-1网址同样是来源于评论链接，ment-page-1代表着评论页面的第一页。如果我的评论比较多，比如说有1000条评论，那么一页肯定是显示不下去的，就会出现ment-page-2，ment-page-3......这就是评论分页功能，这个功能本质上是防止评论过多时，网页会被拉的很长，导致网页加载速度慢和用户体验差。不巧的是，百度蜘蛛依然不能识别出来这和原文

解决方案

1，对于ment-page-1重复收录，有两种方式解决

1)，在wordpress后台关闭评论分页

文章重复收录ment-page-1与replyto

2)，修改robots.txt，加上一句项目的代码

Disallow: /ment-page-

robots.txt在网站根目录，使用 网址/robots.tx就可以看到设置的结果了。如果根目录下没有这个文件

wp-includes/funtion中有这么一段代码

$output = "User-agent: \n";

$public = get_option( 'blog_public' );

if ( '0' == $public ) {

    $output .= "Disallow: /\n";

} else {

    $site_url = parse_url( site_url() );

    $path = ( !emptyempty( $site_url['path'] ) ) ? $site_url['path'] : '';

    $output .= "Disallow: $path/wp-admin/\n";

}

在 $output .= "Disallow: $path/wp-admin/\n";  后面增加一句$output .= "Disallow: $path/ment-page-\n";

2，对于replyto重复收录,设置robots.txt文件

Disallow:/?replyto=

或者是加上对于包含replyto的所有链接都加上nofollow链接

add_filter('ment_reply_link', 'add_nofollow', 420, 4);

function add_nofollow($link, $args, $ment, $post){

  return str_replace("href=", "rel='nofollow' href=", $link);

}