如何用PHP编写代码抓取特定小说网站的长尾词内容?
- 内容介绍
- 文章标签
- 相关推荐
本文共计471个文字,预计阅读时间需要2分钟。
本文实例讲述了如何使用PHP实现抓取小说网站内容的功能。分享给广大开发者和爱好者参考,具体如下:
1. 抓取免费内容,方便手机阅读、听书等。
2.使用ini_set()设置User-Agent,模拟浏览器访问。
示例代码:
php
// 假设要抓取的网站URL$url='http://example.com/novel';
// 初始化cURL会话$ch=curl_init();
// 设置cURL选项curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);curl_setopt($ch, CURLOPT_HEADER, false);
// 执行cURL会话$response=curl_exec($ch);
// 关闭cURL会话curl_close($ch);
// 处理响应内容// ...(后续处理代码)?>
以上代码展示了如何使用PHP抓取小说网站内容的基本步骤。开发者可以根据实际需求进行扩展和优化。
本文实例讲述了PHP实现的抓取小说网站内容功能。分享给大家供大家参考,具体如下:
爬取免费内容,弄到手机,听书,妥妥的。
ini_set('user_agent','Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; .NET CLR 2.0.50727; .NET CLR 3.0.04506.30; GreenBrowser)'); ini_set('max_execution_time', '0'); $base = 'www.qu.la/book/19434/'; $start = '7504808.html'; $content_grep = '/ (.*)<br\/>/'; //$content_grep = '/<div id="content">(.*)<br\/>/sS'; $next_grep = '/<a id="pager_next" href=\"(\d+\.html)\" target="_top" class="next">下一章<\/a>/'; $next = $start; $file_name = '听书了.txt'; while($next) { echo 'getting ' . $next . PHP_EOL; $result = file_get_contents($base . $next); preg_match_all($content_grep, $result, $match); $isTitle = true; $content = ""; foreach($match[1] as $line) { $line = str_replace("<br/>", '', $line); $line = str_replace(" ", '', $line); if($isTitle) { $content = $line . PHP_EOL . PHP_EOL; $isTitle = false; } else { $content .= ' ' . $line . PHP_EOL . PHP_EOL; } } $file = fopen($file_name, 'a'); echo 'write length: ' . strlen($content) . PHP_EOL; fwrite($file, $content); fclose($file); echo '.'; preg_match($next_grep, $result, $match); $next = $match[1]; }
更多关于PHP相关内容感兴趣的读者可查看本站专题:《php socket用法总结》、《php字符串(string)用法总结》、《PHP数学运算技巧总结》、《php面向对象程序设计入门教程》、《PHP数组(Array)操作技巧大全》、《PHP数据结构与算法教程》、《php程序设计算法总结》及《PHP网络编程技巧总结》
希望本文所述对大家PHP程序设计有所帮助。
本文共计471个文字,预计阅读时间需要2分钟。
本文实例讲述了如何使用PHP实现抓取小说网站内容的功能。分享给广大开发者和爱好者参考,具体如下:
1. 抓取免费内容,方便手机阅读、听书等。
2.使用ini_set()设置User-Agent,模拟浏览器访问。
示例代码:
php
// 假设要抓取的网站URL$url='http://example.com/novel';
// 初始化cURL会话$ch=curl_init();
// 设置cURL选项curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);curl_setopt($ch, CURLOPT_HEADER, false);
// 执行cURL会话$response=curl_exec($ch);
// 关闭cURL会话curl_close($ch);
// 处理响应内容// ...(后续处理代码)?>
以上代码展示了如何使用PHP抓取小说网站内容的基本步骤。开发者可以根据实际需求进行扩展和优化。
本文实例讲述了PHP实现的抓取小说网站内容功能。分享给大家供大家参考,具体如下:
爬取免费内容,弄到手机,听书,妥妥的。
ini_set('user_agent','Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; .NET CLR 2.0.50727; .NET CLR 3.0.04506.30; GreenBrowser)'); ini_set('max_execution_time', '0'); $base = 'www.qu.la/book/19434/'; $start = '7504808.html'; $content_grep = '/ (.*)<br\/>/'; //$content_grep = '/<div id="content">(.*)<br\/>/sS'; $next_grep = '/<a id="pager_next" href=\"(\d+\.html)\" target="_top" class="next">下一章<\/a>/'; $next = $start; $file_name = '听书了.txt'; while($next) { echo 'getting ' . $next . PHP_EOL; $result = file_get_contents($base . $next); preg_match_all($content_grep, $result, $match); $isTitle = true; $content = ""; foreach($match[1] as $line) { $line = str_replace("<br/>", '', $line); $line = str_replace(" ", '', $line); if($isTitle) { $content = $line . PHP_EOL . PHP_EOL; $isTitle = false; } else { $content .= ' ' . $line . PHP_EOL . PHP_EOL; } } $file = fopen($file_name, 'a'); echo 'write length: ' . strlen($content) . PHP_EOL; fwrite($file, $content); fclose($file); echo '.'; preg_match($next_grep, $result, $match); $next = $match[1]; }
更多关于PHP相关内容感兴趣的读者可查看本站专题:《php socket用法总结》、《php字符串(string)用法总结》、《PHP数学运算技巧总结》、《php面向对象程序设计入门教程》、《PHP数组(Array)操作技巧大全》、《PHP数据结构与算法教程》、《php程序设计算法总结》及《PHP网络编程技巧总结》
希望本文所述对大家PHP程序设计有所帮助。

