蜘蛛陷阱是指：阻止蜘蛛程序爬行网站的障碍物，如站内搜索、电商产品、flash网站、限制性内容等。蜘蛛陷阱的最大特点是：当蜘蛛抓取某个特定URL时，它便进入了无限循环，只有入口，没有出口。
在SEO工作中，SEO人员每天都在与内容和链接打交道，从目前来看，他们深知独立的原创内容，对于未来站点长期发展的重要性，但这一切的开始，都有一个前提，那就是避免产生“蜘蛛陷阱”。那么什么是蜘蛛陷阱？
“蜘蛛陷阱”是什么？
“蜘蛛陷阱”是阻止蜘蛛程序爬行网站的障碍物，一些网站设计技术对搜索引擎说很不友好，不利于蜘蛛爬行和抓取，这些技术被称为蜘蛛陷阱。 最大的特点是当蜘蛛抓取某个特定URL的时候，它便进入了无限循环，只有入口，没有出口。
常见的“蜘蛛陷阱”有哪些：
1、站内搜索
这是一个常见且容易造成“蜘蛛陷阱”的地方，当你试图在站内搜索某些特定关键词的时候，如果类似search.php?q=这样的URL地址被搜索引擎抓取与收录，那么很可能产生大量无意义的搜索结果页面。
解决：你可以通过Robots.txt这个文件，屏蔽动态参数。
2、电商产品
如果你以往有过操作电商网站的经历，那么你会遇到产品SKU的多样性的问题，同一个主题内容，会根据SKU的不同，产生多个URL，造成大量的内容重复页面，这也导致严重浪费蜘蛛抓取频率。
当然，还有一种特殊的“蜘蛛陷阱”与电商产品页面类似，就是动态的内容插入，这也往往导致蜘蛛陷入温柔的陷阱。
解决：确保URL的规范性，你可以试图利用rel=canonical这个标签来解决类似问题。
3、Flash网站
自从百度屏蔽淘宝客网站、淘宝抛弃淘宝客之后，个人站长集体陷入了恐慌之中。此时，什么值得买网的异军突起引起了广大个人站长的极大关注。做一个什么值得买一样的导购网站成了众多个人站长的一致心愿！ TP-COUPON 导购系统 即是让个人站长实现此心愿的绝佳选择！ 欢迎个人站长选用。V1.1版 更新记录：1.修正请求时查询淘宝店铺错误的bug2.删除一些无用的代码
为了满足用户的视觉体验，建站公司通常会使用Flash网站，给用户搭建企业官网，这样看起来非常美观，但由于目前搜索引擎并不能很好的抓取与识别flash内容，往往导致站点排名很难提升。
解决：不要做整站flash，尽量将flash嵌入网页内容的一部分。
4、限制性内容
对于一些站点，出去吸引粉丝的目的，很多内容只有登录才能查看，特别是一些强制cookie的操作，这诱导与欺骗了蜘蛛，它很难识别内容，并且不断的尝试抓取这个URL。
解决：针对网站建设，尽量避免采用这种策略，去吸引用户。
如何识别“蜘蛛陷阱”
对于识别蜘蛛陷阱的方法，特别容易，你只需要通过如下内容：
① 网站日志：利用工具读取当日蜘蛛抓取URL的内容，如果发现特殊的URL地址，那么值得进一步关注。
② 抓取频率：查看百度搜索资源平台中抓取频率，如果某一天数值特别大，那么很可能陷入蜘蛛陷阱。
总结：常被讨论的蜘蛛陷阱还有网站框架、sessionid、各类跳转，本文只简单讲述了实际应用中常遇到的蜘蛛陷阱，仅供参考。
