Ferret — Go 语言实现的声明式 Web 爬虫系统

Ferret — Go 语言实现的声明式 Web 爬虫系统

技术小能手 2018-10-11 11:26:19 浏览43 评论0

• 云栖社区
• Go
• web
• 测试
• google
• input

摘要： Ferret 是一个声明式的 Web 爬虫系统，旨在简化网络上的数据提取，以用于 UI 测试、机器学习和分析等等。 Ferret 拥有自己的声明式语言，通过抽象出技术细节和底层技术的复杂性，从而更专注于数据本身。

Ferret 是一个声明式的 Web 爬虫系统，旨在简化网络上的数据提取，以用于 UI 测试、机器学习和分析等等。

Ferret 拥有自己的声明式语言，通过抽象出技术细节和底层技术的复杂性，从而更专注于数据本身。

特性

• 声明式语言

• 支持静态和动态 web 页面

• 嵌入式

• 可扩展

示例

LET google = DOCUMENT("https://www.google.com/", true)

INPUT(google, 'input[name="q"]', "ferret", 25)
CLICK(google, 'input[name="btnK"]')

WAIT_NAVIGATION(google)

FOR result IN ELEMENTS(google, '.g')
    // filter out extra elements like videos and 'People also ask'
    FILTER TRIM(result.attributes.class) == 'g'
    RETURN {
        title: INNER_TEXT(result, 'h3'),
        description: INNER_TEXT(result, '.st'),
        url: INNER_TEXT(result, 'cite')
    }

本文来自云栖社区合作伙伴“开源中国”

本文作者：局长

原文链接

用云栖社区APP，舒服~

【云栖快讯】诚邀你用自己的技术能力来用心回答每一个问题，通过回答传承技术知识、经验、心得，问答专家期待你加入！  详情请点击

分享到:

相关文章

网友评论