防止內容被抓取 百度百科屏蔽谷歌/必應等搜索引擎

快科技今日（8月22日）消息，據報道，近日百度百科開始屏蔽谷歌和必應等大多數搜索引擎，預計是爲了阻止這些搜索引擎和其他爬蟲，未經授權抓取百度百科的內容用於訓練AI。

百度百科的robots.txt文件顯示，目前僅有百度搜索、搜狗搜索、中國搜索(Chinaso)、YYSpider和宜搜搜索(EasouSpider)等少數幾個搜索引擎被允許抓取其內容。

谷歌搜索、必應搜索、微軟MSN、UC瀏覽器的Yisouspider以及其他一切搜索引擎爬蟲均被明確禁止抓取百度百科的內容。

雖然360搜索沒有在封禁列表中單獨列出，但百度百科的策略是禁止一切非白名單爬蟲抓取，所以360搜索和其他搜索引擎也都是被屏蔽的。

不過百度百科這種做法其實也只是防君子不防小人，肯定還有很多爬蟲通過各種方式繼續抓取內容然後拿去訓練AI。