网站数据采集原理及防范策略的研究
2014-07-13植雅芳
电脑知识与技术 2014年5期
关键词:数据采集
摘要:网站数据的采集对于一个网站的建设具有十分重要的作用,该文将针对网站数据采集的基本原理和常用的防范策略进行研究。首先,研究了网站数据采集的技术原理,接下来针对常用几种网站数据防采集技术进行了简要的介绍。
关键词:网站;数据采集;防采集;网页数据
中图分类号:TP391 文献标识码:A 文章编号:1009-3044(2014)05-0930-02
1 概述
随着互联网技术的不断发展和普及,因特网已经成为人们日常生活和工作中获取信息的重要来源。Internet中的数据通常以Web页面的方式呈现给用户,在建站的时候为了丰富网站的数据量,网站管理员通常使用网络爬虫等数据采集工具从其他网站采集数据。网站数据采集是指通过一定的技术手段将某一网站的所有网页内容或部分网页内容批量抓取到自己网站中[1]。然而,非法的网站数据采集将可能造成网站服务器承载过重的負荷进而崩溃,与此同时这一行为也违反了版权保护相关的法律。因此,了解网络采集的基本原理和相关的防御措施在网站的建站和后期维护过程中具有极为重要的作用。
2 网站数据采集基本原理
在进行网站数据的采集时根据采集工具的种类和开发语言的不同,通常网站数据获取的方式也是不同的。但它们的基本原理都是通过访问被采集站点来提取被采集站点的相应数据[2]。通过制定适当的数据采集规则来判断什么样的网络地址是有效的、那些数据需要被采集和如何提取这些有效的信息。……
登录APP查看全文
