如何改写PHP采集数据入库程序，使其适用于长尾词数据采集？
- 内容介绍
- 文章标签
- 相关推荐
本文共计508个文字，预计阅读时间需要3分钟。
最近有朋友让我帮他做一个收集新闻信息的程序。我花了点时间，用PHP写了一个简单的版本，记录在随笔记下了。说到收集，其实就是远程获取信息，提取所需内容，分类存储，读取显示，简单来说就是一个小偷程序。
前几天有一朋友要我帮做一个采集新闻信息的程序，抽了点时间写了个PHP版本的，随笔记录下。
说到采集，无非就是远程获取信息->提取所需内容->分类存储->读取->展示
也算是简单"小偷程序"的加强版吧
下面是对应核心代码（别拿去做坏事哦^_^）
所要采集的内容是某游戏网站上的公告，如下图：
可先利用file_get_contents和简单正则获取基本页面信息
整理下基本信息，采集入库：
<?PHP include_once("conn.PHP"); if($_GET['id']<=8&&$_GET['id']){ $id=]; $conn=file_get_contents("www.93moli.com/news_list_4_$id.html");//获取页面内容 $pattern="/<li><a title=\"(.*)\" target=\"_blank\" href=\"(.*)\">/iUs";正则 preg_match_all($pattern,$conn,1)">$arr);匹配内容到arr数组 //print_r($arr);die; foreach ($arr[1] as $key => $value) {二维数组[2]对应id和[1]刚好一样,利用起key $url="www.93moli.com/".$arr[2][$key$sql="insert into list(title,url) value ('$value','$url')"; MysqL_query($sql); echo "<a href='content.PHP?url=www.93moli.com/$url'>$value</a>"."<br/>"; } $id++; echo "正在采集URL数据列表$id...请稍后..."echo "<script>window.location='list.PHP?id=$id'</script>"; }else{ echo "采集数据结束。"; } ?>
conn.PHP是数据库连接文件
list.PHP是本页面
由于要采集的数据是分页显示的，且页面地址是规律递增，所以我用了js跳转代码，利用id传值控制采集的页数，也避免了for循环数目过大。
轻轻松松数据入库，下篇博客写关于具体url采集信息的过程。
www.cnblogs.com/lichenwei/p/3873281.html
本文共计508个文字，预计阅读时间需要3分钟。
最近有朋友让我帮他做一个收集新闻信息的程序。我花了点时间，用PHP写了一个简单的版本，记录在随笔记下了。说到收集，其实就是远程获取信息，提取所需内容，分类存储，读取显示，简单来说就是一个小偷程序。
前几天有一朋友要我帮做一个采集新闻信息的程序，抽了点时间写了个PHP版本的，随笔记录下。
说到采集，无非就是远程获取信息->提取所需内容->分类存储->读取->展示
也算是简单"小偷程序"的加强版吧
下面是对应核心代码（别拿去做坏事哦^_^）
所要采集的内容是某游戏网站上的公告，如下图：
可先利用file_get_contents和简单正则获取基本页面信息
整理下基本信息，采集入库：
<?PHP include_once("conn.PHP"); if($_GET['id']<=8&&$_GET['id']){ $id=]; $conn=file_get_contents("www.93moli.com/news_list_4_$id.html");//获取页面内容 $pattern="/<li><a title=\"(.*)\" target=\"_blank\" href=\"(.*)\">/iUs";正则 preg_match_all($pattern,$conn,1)">$arr);匹配内容到arr数组 //print_r($arr);die; foreach ($arr[1] as $key => $value) {二维数组[2]对应id和[1]刚好一样,利用起key $url="www.93moli.com/".$arr[2][$key$sql="insert into list(title,url) value ('$value','$url')"; MysqL_query($sql); echo "<a href='content.PHP?url=www.93moli.com/$url'>$value</a>"."<br/>"; } $id++; echo "正在采集URL数据列表$id...请稍后..."echo "<script>window.location='list.PHP?id=$id'</script>"; }else{ echo "采集数据结束。"; } ?>
conn.PHP是数据库连接文件
list.PHP是本页面
由于要采集的数据是分页显示的，且页面地址是规律递增，所以我用了js跳转代码，利用id传值控制采集的页数，也避免了for循环数目过大。
轻轻松松数据入库，下篇博客写关于具体url采集信息的过程。
www.cnblogs.com/lichenwei/p/3873281.html