帝国CMS采集文章-分页采集

一、全部列出式

　　全部列表式只需看第一页的页面HTML代码，这一页的所有分页链接都列出来了。

　　1、我们以"中华网内容分页(http://auto.china.com/dongtai/yejie/11012724/20120309/17081442.html)"为例：

　　可以看到这条新闻总共有3条分页。

　　2、查看源代码：

　　这一页里除了已经采集到的第1条分页外，还包括了第2条和第3条分页，所有的分页都列出来了。

　　3、取得 分页区域正则([!--smallpageallzz--])：

　　4、取得 分页链接正则([!--pageallzz--])：

　　二、上下页导航式

　　上下页导航式是分页采集的难点，他需要所有页面都符合分页正则才行，在不熟悉的情况下，我们可以用第1页和第2页的代码来进行对比分析然后确定分页正则。

　　1、我们以下网站的内容分页为例：

　　可以看到这条新闻总共有20条分页。

　　2、查看源代码：

　　这一页里除了已经采集到的第1条分页外，还包括了第2，第3，第4，第5，第6，第7，第8，第20条分页，但是第9到第19条分页并没有列出来，这时候我们拿用第1页和第2页的代码来进行对比分析，来确定分页正则：

　　(1)第1页代码：

　　(2)第2页代码：

　　从这两幅图片可以看到他们有着相同的"分页区域开始代码"，"分页链接"格式，"分页区域结束代码"，那么就可以确定"分页区域正则"，"分页链接正则"。

　　3、取得 分页区域正则([!--smallpageallzz--])：

　　4、取得 分页链接正则([!--pageallzz--])：

　　5、为了方便教程显示，newstext我采集了标题而不是采集内容，预览结果：

　　注意事项：

　　第一、在第一页的页面HTML代码里，内容分页链接全部列出来的情况下我们使用"全部列出式"。在第一页的页面HTML代码里，内容分页链接没有全部列出来的情况下我们使用"上下页导航式"。

　　第二、用全部列出式时，采集规则正确但是莫名其妙的出现重复的分页，这时可以利用替换法把它过滤掉(下一讲我们再说)。

　　第三、用上下页导航式时，老是采到第1页，其他页连个影子都没有见过，这是因为分页区域正则([!--smallpagezz--])截取错误。

　　第四、用上下页导航式时，可以采集到前几页了，但是接下来这前几页全部重复循环到底，这也是因为分页区域正则([!--smallpagezz--])截取错误，截取范围过大，导致重复截取前几个分页链接。