相关关键词
关于我们
最新文章
PHP curl 抓取AJAX异步内容示例
发布日期:2014-09-10 00:00:00
262
其实抓ajax异步内容的页面和抓普通的页面区别不大。ajax只不过是做了一次异步的http请求,只要使用firebug类似的工具,找到请求的后端服务url和传值的参数,然后对该url传递参数进行抓取即可。
利用Firebug的网络工具
如果抓去的是页面,则内容中没有显示的数据,是一堆JS代码。
Code
01 |
$cookie_file =tempnam( './temp' , 'cookie' ); |
02 |
$ch = curl_init(); |
03 |
$url1 = "http://www.cdut.edu.cn/default.html" ; |
04 |
curl_setopt( $ch ,CURLOPT_URL, $url1 ); |
05 |
curl_setopt( $ch ,CURLOPT_HTTP_VERSION,CURL_HTTP_VERSION_1_1); |
06 |
curl_setopt( $ch ,CURLOPT_HEADER,0); |
07 |
curl_setopt( $ch ,CURLOPT_RETURNTRANSFER,1); |
08 |
curl_setopt( $ch ,CURLOPT_FOLLOWLOCATION,1); |
09 |
curl_setopt( $ch , CURLOPT_ENCODING , 'gzip' ); //加入gzip解析 |
10 |
//设置连接结束后保存cookie信息的文件 |
11 |
curl_setopt( $ch ,CURLOPT_COOKIEJAR, $cookie_file ); |
12 |
$content =curl_exec( $ch ); |
13 |
14 |
curl_close( $ch ); |
15 |
16 |
$ch3 = curl_init(); |
18 |
$curlPost = "callCount=1&page=/xww/type/1000020118.html&httpSessionId=12A9B726E6A2D4D3B09DE7952B2F282C&scriptSessionId=295315B4B4141B09DA888D3A3ADB8FAA658&c0-scriptName=portalAjax&c0-methodName=getNewsXml&c0-id=0&c0-param0=string:10000201&c0-param1=string:1000020118&c0-param2=string:news_&c0-param3=number:5969&c0-param4=number:1&c0-param5=null:null&c0-param6=null:null&batchId=0" ; |
19 |
curl_setopt( $ch3 ,CURLOPT_URL, $url3 ); |
20 |
curl_setopt( $ch3 ,CURLOPT_POST,1); |
21 |
curl_setopt( $ch3 ,CURLOPT_POSTFIELDS, $curlPost ); |
22 |
23 |
//设置连接结束后保存cookie信息的文件 |
24 |
curl_setopt( $ch3 ,CURLOPT_COOKIEFILE, $cookie_file ); |
25 |
$content1 =curl_exec( $ch3 ); |
26 |
curl_close( $ch3 ); |