通过设置代理,解决服务器禁止抓取,报“java.io.IOException: Server returned HTT

java.io.IOException: Server returned HTTP response code: 403 for URL:

这个是什么异常呢?

当你使用java程序检索其他网站上的内容时,如果其服务器设置了禁止抓取,或者其访问需要权限,

如果此时你去检索网页那么就会有异常该异常出现.

如果是服务器需要访问权限,比如说你要登录才能访问的网页,那么你抓取不了的.

如果是服务器端禁止抓取,那么这个你可以通过设置User-Agent来欺骗服务器

connection.setRequestProperty(“User-Agent”, “Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)”);

什么是User Agent呢?

User Agent中文名为用户代理,,简称 UA,它是一个特殊字符串头,使得服务器能够识别客户使用的操作系统及版本、CPU 类型、浏览器及版本、浏览器渲染引擎、浏览器语言、浏览器插件等。  

一些网站常常通过判断 UA 来给不同的操作系统、不同的浏览器发送不同的页面,因此可能造成某些页面无法在某个浏览器中正常显示,但通过伪装 UA 可以绕过检测。

转自:

一个人身边的位置只有这么多,

通过设置代理,解决服务器禁止抓取,报“java.io.IOException: Server returned HTT

相关文章:

你感兴趣的文章:

标签云: