6、什么是Robots？Robots.txt文件放在哪里?

发布时间:2019-11-12 19:49:23 浏览人数: 6204 次

答：搜索引擎通过一种程序robot（又称spider），自动访问互联网上的网页并获取网页信息。

可以在网站中创建一个纯文本文件robots.txt，在这个文件中声明该网站中不想被robot访问的部分，这样，该网站的部分或全部内容就可以不被搜索引擎收录了，或者指定搜索引擎只收录指定的内容。

robots.txt文件应该放在网站根目录下。举例来说，当robots访问一个网站（比如http://www.abc.com）时，首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件，如果机器人找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。

资料来源网络，仅供学习交流，如您发现本文中有涉嫌抄袭，请发送邮件至：support@iisp.com，一经查实，本站将立刻删除涉嫌侵权内容。

上一篇：7、什么是外链？如何做？
下一篇：5、什么是sitemap？