每个网站的内容并不是完全需要让百度搜索引擎蜘蛛抓取的，为了更好的使得搜索引擎与网站达成一定的协议，在百度搜索引擎蜘蛛抓取的过程中双方建立了一定的规范，这些规范的内容以便于搜索引擎与网站之间的数据处理和对接，通常这种遵守的规范化的协议统称为网络协议。今天为朋友们分享一下百度搜索引擎蜘蛛抓取过程中涉及的网络协议有哪些，部分内容转载自百度站长工具平台。

 

　　1、http协议和https协议

 

　　http协议又称为超文本传输协议，这也是互联网最为常见的一种网络协议，通过客户端和服务器端的请求和应答制定了一系列的标准。在这里客户端一般是指的最终的用户群，服务器端则是指的网站本身。也就是说用户通过互联网浏览器、搜索引擎蜘蛛等向网站指定端口发送出http请求之后，会返回对应的httpheader信息，也就是之前所分享的HTTP状态码，通过http状态码就可以看出网站页面的实际状况，比如是否链接成功，服务器类型、网站页面的最近更新时间等等。https协议实际是加密版http，一种更加安全的数据传输协议，很多金融类网站，商城类的网站都会制定这样的数据传输协议，比如淘宝、京东、支付宝等网站。

 

　　2、UA属性

 

　　UA属性的全称是user-agent，其实UA属性是属于http协议当中的一种属性，主要的代表了终端的身份，向服务器端表明自己是谁，并且表面自己的目的性，使得服务器端可以根据不同身份的终端身份来做出不同的反馈结果。

 

　　3、robots协议

 

　　robots协议之前在当中有专门的博文进行描述，感兴趣的朋友可以去浏览一下。robots协议是以robots.txt文档的形式展现出来的，这个文档也是搜索引擎蜘蛛在抓取网站之前第一个要抓取的网站文件，也就是说搜索引擎蜘蛛来网站抓取网站之前，首先要看一下robots.txt文件当中的内容来确定这个网站哪些内容是可以抓取的哪些内容是不可以抓取的，搜索引擎都是非常严格的按照robots协议对网站执行抓取协议的。

 

　　在了解了百度搜索引擎蜘蛛抓取过程中涉及的网络协议之后，对于自己网站的站内SEO优化操作的内容才会有针对性的提供给搜索引擎蜘蛛抓取，不但有利于搜索引擎蜘蛛很快捷方便的抓取主要的网站内容，也使得搜索引擎更加快捷的分辨出网站的主题，这也是集中网站权重的有效SEO优化操作技巧。