如果您不希望網(wǎng)站被搜索引擎收錄而產(chǎn)生大量流量，您可以在您的網(wǎng)站中創(chuàng)建一個(gè)純文本文件robots.txt，在文件中聲明該網(wǎng)站中不想被robot訪問的部分或者指定搜索引擎只收錄特定的部分。

請注意，僅當(dāng)您的網(wǎng)站包含不希望被搜索引擎收錄的內(nèi)容時(shí)，才需要使用robots.txt文件。如果您希望搜索引擎收錄網(wǎng)站上所有內(nèi)容，請勿建立robots.txt文件。

更詳細(xì)的信息，可查看搜索引擎官方網(wǎng)站，比如查看百度的http://www.baidu.com/search/robots.html。