收集电子邮件地址、竞争分析、网站检查、定价分析和客户数据收集—这些可能只是你需要从HTML文档中提取文本和其他数据的几个原因。不幸的是,手动做这种事是很痛苦的而且效率很低,在某些情况下甚至不可能实现。幸运的是,现在有各种各样的工具可以实现这些需求。下面的7个工具包括了由为初学者和小项目而设计的非常简单的工具到需要一定的编码知识,旨在用于更大,更困难的任务的高级工具。
IconicoHTML文本提取器(IconicoHTMLTextExtractor)
试想一下,你正在浏览竞争对手的网站,然后想提取出文本内容,又或是想看看页面背后的HTML代码。但十分不幸,你发现右键被禁用了,复制和粘贴也是如此。现在许多Web开发人员正在采取措施禁用查看源代码,否则锁定其页面。幸运的是,Iconico有一个HTML文本提取器,你可以用来绕过所有的这些限制,而且这个产品非常易于使用。你可以高亮和复制文本,提取功能的运行使用轻易得像上网一样。
UiPathUI
Path有一套自动化过程工具,里面包含了一个Web内容抓取实用程序。要使用该工具,并获得所需的几乎任何数据十分简单—只需打开页面,转到工具中的设计菜单,然后单击“网络抓取(webscraping)”。除了网络抓取工具,屏幕抓取工具允许您从网页中拉取任何内容。使用这两种工具意味着您可以从任何网页抓取文本,表格数据和其他相关信息。
Mozenda
Mozenda允许用户提取Web数据,并将该信息导出到各种智能商务工具。它不仅可以提取文本内容,还可以从PDF文件中提取出图像,文件和内容。然后,你可以将这些数据导出到XML文件,CSV文件,JSON或者可以选择使用API。提取和导出数据后,就可以使用BI工具进行分析和报告。
HTMLtoText
这款在线工具可以从HTML源代码中提取文本,甚至只是一个URL也可以。你所需要做的只是复制和粘贴,提供一个URL或者上传文件。单击选项按钮,让工具知道你需要的输出格式和一些其他的细节,然后点击转换,你将获得你需要的文本信息。
Octoparse
Octoparse的特征是它提供的是“点击”用户界面。即便是没有过编码知识的用户也可以从网站提取数据并将其发送到各种文件格式。这个工具包括从页面中提取电子邮件地址,从招聘板上提取职位列表等功能。该工具适用于动态和静态网页以及云采集(配置好采集任务关机也能采集数据)。它提供了一个免费版本,对于大多数使用场景应该足够应付,而付费版本则有更多丰富的功能。
如果你是为了进行竞争分析而抓取网站,可能会因为此活动而被禁止。因为Octoparse包含一个循环识别你的IP地址的功能,并能通过你的IP禁止你使用。
Scrapy
这个免费的开源工具使用网络爬虫从网站提取信息,使用这个工具需要一些高级技能和编码知识。但如果你愿意以你的方式去学习使用它,Scrapy是抓取大型Web项目的理想选择。该工具已被CareerBuilder和其他主要品牌使用。因为它是一个开源工具,所以这为用户提供了很多良好的社区支持。
Kimono
Kimono是一个免费的工具,从网页获取非结构化数据,并将该信息提取为具有XML文件的结构化格式。该工具可以交互使用,也可以创建计划作业以在特定时间提取你需要的数据。你可以从搜索引擎结果、网页、甚至幻灯片演示中提取数据。最重要的是,当你设置好每个工作流时,Kimono会创建一个API。这意味着当你返回到网站以提取更多数据时,不必再重新造轮子。
结论
如果你遇到需要从一个或多个网页中提取非结构化数据的任务,那么此列表中至少有一个工具应该包含你需要的解决方案。而且无论你的期望价格是什么,你都应该能找到你所需要的工具。了解清楚然后决定哪个是最适合你的。要知道,大数据在企业蓬勃发展中的重要性,并且收集所需信息的能力对于你来说也是至关重要。