Categories


Tags


新浪死链处理经验分享

在第四次深“度”接触结束后,spider工程师表示新浪的死链处理工作一直效果不错,提醒学堂应该请其做个分享。新浪稳座国家级门户头把交椅,谁还敢说自己网站结构的复杂程度可以超越新浪。于是我们请王久明分享一下新浪在死链处理和死链预防(重要页面因修改而产生死链)方面的经验。

一、在以下背景下会较多产生死链:

1、时政新闻的敏感性;

2、来自监管的删除需求;

3、频道(编辑)自身删改的需求;

4、搜索方期望资源方主动优化和定期清除的需求

二、死链分类:

由于系统架构、历史遗留问题、多业务系统交叉影响等多方面因素,新浪存在如下三种死链:

1、协议死链,服务器端返回HTTP状态码404;

例如:‘谁在伪善’http://news.sina.com.cn/movie/music/1999-06-15/2965.shtml

2,内容死链,服务器端返回HTTP状态码200,无法设置为404;

例如:http://news.sina.com.cn/c/2015-04-23/184531753084.shtml

3,页面需要用户和蜘蛛可以正常访问,但由于删改或误操作导致反复上下线形成协议死链或内容死链。例如:http://news.sina.com.cn/2015-12-05/doc-ifxmhqaa9933763.shtml

上线后又下线,后又上线,甚至反复多次。由于下线期间存在协议死链或内容死链的情况,导致百度认为该页面应该被删除,不被收录,且即使后续重新上线也无法恢复收录。对于这种情况,应加以预防。

三、解决方案:

1、协议死链,这个最符合HTML标准处理方式,站点方面无须多做什么,如果需要百度快速处理可以通过百度站长平台的死链提交工具(/college/courseinfo?id=267&page=4#h2_article_title18)进行主动提交

2,无法设置协议死链接,仅主体内容文本被删除的内容死链死链,新浪的处理方法是:

1)走事先之制定好的《死链标准流程》:用站内标准内容死链模板页面(告诉用户该页无法找到)覆盖需要删除的页面,5秒后跳转到统一的全站导航页,以减少用户流失。

2)根据需要,比如根据特定关键词圈定一批最终需要处理为协议死链的敏感页面,将这些页面链接放到一个文件里,由专人在服务器端修改成协议死链。通过百度站长平台工具进行死链提交

3,针对反复上下线导致百度误判为死链的情况,新浪的预防办法是:

1)制度上:系统后台设置提醒,提醒编辑上线后除非特殊情况不要下线;

2)功能上:这种情况在专题运营中最常见,且影响比单篇新闻页要大,由于我站点运营规定是不能删除页面的,因此在系统后台将“删除专题(对编辑来说就是删除该专题)”和“将专题调整为不对外显示(对编辑来说不是删除,而是暂时下线,调整为外网用户无法访问,可随时再次重新上线)”两个功能严格区分开,并提供回收功能。针对“将专题调整为不对外显示”这种情况,不再将页面更新为内容死链(页面无法找到),以免被百度误判。专题页面仍可访问,只是站点不设置入口、不进行推广,用户没有访问来源而已。

来源:百度搜索资源平台 百度搜索学堂


Public @ 2013-02-21 15:36:49

HTTPS改造通用解决方案

搭建HTTPS网站的准备工作简单来说,HTTPS协议是由SSL+HTTP协议构建的可进行加密传输、身份认证的网络协议,所以HTTPS网站搭建中比较重要的内容都是围绕着SSL证书进行的。那我们应该做什么准备工作,如下图:网站选型:HTTPS会提升网站安全性,同样也拉高技术成本,所以我们建议一些涉及到用户隐私信息的网站进行HTTPS建设,公开性的内容是根据网站自身情况进行选择;证书申请:①CSR文件制

Public @ 2019-04-11 15:35:47

大型网站的 HTTPS 实践(4):协议层以外的实践

除了协议层以外,大型网站在实践 HTTPS 时还需要注意以下方面: 1. 合理配置 SSL/TLS 协议版本和加密套件:网站需要根据实际需求,配置 SSL/TLS 协议版本和加密套件,避免使用弱加密算法和易受攻击的协议版本。 2. HTTPS 证书管理:需要定期更新证书,避免过期或被吊销的证书导致网站不可访问或被攻击。此外,需要保障证书的安全性,避免私钥泄露导致证书失效。 3. 前端页面安全

Public @ 2023-04-15 21:00:35

什么是内链死链、链出死链、链入死链

内链死链、链出死链、链入死链都是指在网页中使用的链接出现了错误或失效,无法正常访问链接所指向的页面或资源的情况。 具体来说,内链死链是指在网站的某个页面中,链接到了该网站中的其他页面或资源,但由于链接地址错误或页面已被删除等原因,导致链接无法正常访问;链出死链是指在某个网站的页面中,链接到了其他网站的页面或资源,但由于链接地址错误或目标网站的服务器出现了问题,导致链接无法正常访问;链入死链是指其

Public @ 2023-03-27 22:50:26

死链示例展示中,死链链接、死链前链、锚文本、发现时间分别代表什么含义

死链链接:Baiduspider在尝试抓取该网页时,该网页返回了404代码; 目前死链链接只针对协议死链,后续会陆续增加跳转死链和内容死链。死链前链:从该网页经过一次点击即可到达当前死链链接,称该网页为当前死链链接的前链,即死链前链。锚文本:在死链前链这个网页上发现的对应该死链链接的文本信息。发现时间:Baiduspider最近一次抓取该死链链接的时间。来源:百度搜索资源平台 百度搜索学堂

Public @ 2022-04-29 15:36:57

更多您感兴趣的搜索

0.617000s