怎样让你的网站更快的被搜索引擎发现？最重要的原因之一可能就是让搜索蜘蛛更好的抓取和搜索你的网站。我们可以尝试一些网站优化技巧让这个过程对搜索引擎来说尽可能的简朴化，同样的，对站长们也是如斯。
　　因为google掌控者搜索市场的大部门的份额，所以应时时关注和听取它的一些动态。“Google发表了一篇叫做优化蜘蛛爬取和索引的技巧”，是不是该引起我们的留意呢？
　　文中内容高度夸大可以进步你站点爬取的能力的一些技巧，下面是陈列的关于URL的详细的例子。
　　“互联网是个大世界，时时刻刻都有新的内容被发表，创造，”Google 分析师Susan Moskwa说到。“Google 拥有无穷的资源，所以当它面对几乎无穷的在线的可利用的资源时，google的蜘蛛只有能力去找寻和爬取一部门的内容，而面临已经爬取了的内容，我们又只能索引一部门。”
　　Moskwa说：“URL就像一座连接你站点和搜索引擎蜘蛛之间的桥梁，蜘蛛需要能够找到并通过这座桥梁（IE,找到并爬取你的URL）到达你的网站内容页，假如你的URL地址过于复杂或是太冗余，蜘蛛就要花费良多时间去跟踪并反跟踪自己爬取的脚印，假如URL地址被很好的组织着，并直接指向相关区域的内容，这样就不会爬取到空缺或是重复的内容页了。”
　　 假如你想被Google更好的索引，你必需删除URL地址顶用户详细信息。详细情况可浏览幻灯片。基本上URL的参数时不会改变网页的内容，所以这些参数应该要删除或是放入cookie中。这样就会减少良多URL指向统一个内容的数目，加快检索。（这里应该指的就是尽量使用静态地址，少产生一些用户自带的参数的重复URL）Google说漫无目的的无穷的空间和广度实在很铺张时间，所以对于那些是独一地址的无论是过去的仍是将来的url地址，最好有一个时间标志。例如告诉Google那些网页可以忽略它不需要爬取。包括一些登陆的页面，联系方式，购物车和其他的页面，类似于要求用户去执行的行为，蜘蛛是无法识别操纵的。可以通过使用robots.txt文件来实现。
　　最后，尽可能避免重复的内容。Google但愿每一个内容页面都对应一个独一的地址。当然他们不可能全部的识别出来，因此会有一些典型链接因素存在让你去鉴别哪些特定内容网页的URL更被人们喜爱。