可扩展标记语言-----XML

140 阅读11分钟

目录

XML概述

 概念

 发展历程

 XML的功能

 XML基本语法

 XML组成部分

 文档声明

 标签

 指令(了解)

属性

文本

约束_DTD约束

​编辑

约束_Schema约束

Jsoup解析器_XML解析思想

DOM

 SAX

 Jsoup解析器_XML常见解析器

 Jsoup解析器_Jsoup快速入门

 步骤:

 Jsoup解析器_Jsoup

Jsoup解析器_Document

Jsoup解析器_Element

Jsoup解析器_XPath解析

 XML案例_使用Jsoup完成网页爬虫

 XML案例_使用XML配置爬虫程序的参数


XML概述

 概念

XML(Extensible Markup Language):可扩展标记语言 可扩展:标签都是自定义的。

 发展历程

HTML和XML都是W3C(万维网联盟)制定的标准,最开始HTML的 语法过于松散,于是W3C制定了更严格的XML语法标准,希望能取 代HTML。但是程序员和浏览器厂商并不喜欢使用XML,于是现在 的XML更多的用于配置文件及传输数据等功能。

是谁造成的HTML语法松散?

浏览器厂商。最开始W3C制定HTML的时候语法还是比较严格 的。但浏览器厂商为了抢占市场,语法错误也可以解析成功 HTML,最后“内卷”到HTML即使语法非常混乱也是可以被浏览 器解析。

 

 tips:归根到底是语法的制定者和使用者不一致造成了HTML语 法混乱,JAVA语法严格就是因为java语言的运行工具java虚拟机 也是sun公司(现在是oracle)出品的,语法不通过不让运行。

 XML的功能

1 配置文件:在今后的开发过程当中我们会频繁使用框架(框架: 半成品软件),使用框架时,需要写配置文件配置相关的参数, 让框架满足我们的开发需求。而我们写的配置文件中就有一种文 件类型是XML。

日后编写大型项目,不可能从头到尾都是原创代码,很多功 能前人已经写好,我们只需要使用前人写好的半成品软件 (框架),再加入一些符合我们需求的配置即可完成开发。 比如我们组装一台电脑,不可能自己焊接电路板。而是先买 入一块主板,这块主板就是半成品软件。根据自己的需求加 入一些配置,比如要求流畅运行吃鸡,就需要配置i7处理 器、泰坦显卡。

 2 传输数据:在网络中传输数据时并不能传输java对象,所以我们 需要将JAVA对象转成字符串传输,其中一种方式就是将对象转为 XML类型的字符串。

比如携程等旅游网站可以买火车票,但他们其实也是替 12306卖票,此时他们就需要拿到12306的票务数据。JAVA 对象不能在网络上传输,可以转为XML类型的字符串。

XML和HTML的区别

1 XML语法严格,HTML语法松散

2 XML标签自定义,HTML标签预定义

 XML基本语法

1、文件后缀名是.xml

2、第一行必须是文档声明

3、有且仅有一个根标签

4、标签必须正确关闭

5、标签名区分大小写

6、属性值必须用引号(单双都可)引起来

 XML组成部分

 文档声明

文档声明必须放在第一行,格式为:

<?xml 属性列表 ?>

属性列表: version:版本号(必须) encoding:编码方式

 标签

XML中标签名是自定义的,标签名有以下要求:

1、包含数字、字母、其他字符

2、不能以数字和标点符号开头,可以以_开头

3、不能包含空格

 指令(了解)

指令是结合css使用的,但现在XML一般不结合CSS,语法为:

<?xml-stylesheet type="text/css" href="a.css"?>

属性

属性值必须用引号(单双都可)引起来

文本

如果想原样展示文本,需要设置CDATA区,格式为:

<![CDATA[文本]]>

约束_DTD约束

 虽然XML标签是自定义的。但是作为配置文件时,也需要遵循一定 的规则。就比如在主板上硬盘口只能插硬盘,不能插入其他硬件。 约束就是定义XML书写规则的文件,约束我们按照框架的要求编写 配置文件。

 我们作为框架的使用者,不需要会写约束文件,只要能够在xml中 引入约束文档,简单的读懂约束文档即可。XML有两种约束文件类 型:DTD和Schema。

DTD是一种较简单的约束技术,引入方式如下:

本地引入:

<!DOCTYPE 根标签名 SYSTEM "dtd文件的位置">

网络引入:

<!DOCTYPE 根标签名 PUBLIC "dtd文件的位置" "dtd文件路径">

约束_Schema约束

 Schema比DTD对XML的约束更加详细,引入方式如下:

1 写xml文档的根标签

2 引入xsi前缀:确定Schema文件的版本。

xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"

3 引入Schema文件

xsi:schemaLocation="Schema文件定义的命名空间
Schema文件的具体路径"

4 为Schema约束的标签声明前缀

xmlns:前缀="Schema文件定义的命名空间"

例如:

<students
      xmlns:xsi="http://www.w3.org/2001/XMLSchemainstance"
      xsi:schemaLocation="http://www.itbaizhan.cn/xml student.xsd"
        xmlns="http://www.itbaizhan.cn/xml">

Jsoup解析器_XML解析思想

 XML解析即读写XML文档中的数据。框架的开发者通过XML解析读 取框架使用者配置的参数信息,开发者也可以通过XML解析读取网 络传来的数据。XML有如下解析思想:

DOM

将标记语言文档一次性加载进内存,在内存中形成一颗dom树

优点:操作方便,可以对文档进行CRUD的所有操作

缺点:占内存

 

 SAX

逐行读取,基于事件驱动的。

优点:不占内存,一般用于手机APP开发中读取XML

缺点:只能读取,不能增删改

 

 Jsoup解析器_XML常见解析器

1、JAXP:SUN公司提供的解析器,支持DOM和SAX两种思想

2、DOM4J:一款非常优秀的解析器

3、Jsoup:Jsoup是一款Java的HTML解析器,支持DOM思想。可直接解析某个URL地址、HTML文本 内容。它提供了一套非常省力的API,可通过CSS以及类似于jQuery的操作方法来取出和操作数据

4、PULL:Android操作系统内置的解析器,支持SAX思想

 Jsoup解析器_Jsoup快速入门

 步骤:

1 导入jar包

2 加载XML文档进内存,获取DOM树对象Document

3 获取对应的标签Element对象

4 获取数据

public class Demo1 {
    // 获取XML中所有学生的姓名
    public static void main(String[] args) throws IOException {
        // 2.加载XML文档进内存。获取DOM树对象Document
        // 2.1 获取类加载器
        ClassLoader classLoader = Demo1.class.getClassLoader();
        // 2.2使用类加载器,找到XML文档的路径
        String path = classLoader.getResource("com/itbaizhan/xsd/student.xml").getPath();
        // 2.3加载XML文档进内存,并转成Document对象
        Document document = Jsoup.parse(new File(path), "utf-8");
        // 3.获取对应的标签Element对象
        Elements name = document.getElementsByTag("name");
        // 4.获取数据
        for (Element element : name) {
            String text = element.text();
            System.out.println(text);
       }
   }
}

 Jsoup解析器_Jsoup

 Jsoup:可以解析xml或html,形成dom树对象。

常用方法:

static Document parse(File in, String charsetName):解析本地文件

static Document parse(String html):解析html或xml字符串

static Document parse(URL url, int timeoutMillis):解析网页源文件

public class Demo2 {
    // Jsoup
    public static void main(String[] args) throws IOException {
        // 解析本地XML
        String path = Demo2.class.getClassLoader().getResource("com/itbaizhan/xsd/student.xml").getPath();
        Document document = Jsoup.parse(new File(path), "utf-8");
        System.out.println(document);
        System.out.println("------------------");
        // 解析字符串
        Document document1 = Jsoup.parse("<?xml version=\"1.0\" ?>\n" +
                "<students\n" +
                "   xmlns:xsi=\"http://www.w3.org/2001/XMLSchema-instance\"\n" +
                "   xsi:schemaLocation=\"http://www.itbaizhan.cn/xml student.xsd\"\n" +
                "   xmlns=\"http://www.itbaizhan.cn/xml\">\n" + "\n" +
                "   <student number=\"baizhan_0001\">\n" +
                "       <name>baizhan</name>\n" +
                "       <age>10</age>\n" +" <sex>male</sex>\n"+
                "   </student>\n" +
                "   <student number=\"baizhan_0002\">\n" +
                "       <name>sxt</name>\n"+
                "       <age>11</age>\n" +
                "       <sex>female</sex>\n" +
                "   </student>\n" +
                "</students>");
        System.out.println(document1);
        System.out.println("---------------------------------");
        // 解析网络资源
        Document document2 = Jsoup.parse(new URL("https://www.baidu.com"), 2000);
        System.out.println(document2);
   }
}

Jsoup解析器_Document

 Document:xml的dom树对象

常用方法:

Element getElementById(String id):根据id获取元素

Elements getElementsByTag(String tagName):根据标签名获取元素

Elements getElementsByAttribute(String key):根据属性获取元素

Elements getElementsByAttributeValue(String key,String value):根据属性名=属性值获取元 素。

Elements select(Sting cssQuery):根据选择器选取元素。

public class Demo3 {
    // Document
 public static void main(String[] args) throws IOException {
        String path = Demo3.class.getClassLoader().getResource("com/itbaizhan/jsoup/student.xml").getPath();
        Document document = Jsoup.parse(new File(path), "utf-8");
        // 根据id获取元素
        Element baizhan_0001 = document.getElementById("baizhan_0001");
        System.out.println(baizhan_0001);
        System.out.println("----------------------");
        // 根据标签获取元素
        Elements age = document.getElementsByTag("age");
        for (Element element : age) {
            System.out.println(element);
       }
        System.out.println("----------------------");
        // 根据属性获取元素
        Elements english = document.getElementsByAttribute("english");
        for (Element element : english) {
            System.out.println(element);
       }
        System.out.println("----------------------");
        // 根据属性名=属性值获取元素
        Elements elementsByAttributeValue = 
        document.getElementsByAttributeValue("english", "bz");
        for (Element element : elementsByAttributeValue) {
            System.out.println(element);
       }
        System.out.println("----------------------");
        // 使用CSS选择器获取元素
        Elements select = document.select("#baizhan_0001");
        System.out.println(select);
        System.out.println("----------------------");
        Elements sex = document.select("sex");
        System.out.println(sex);
        System.out.println("----------------------");
        Elements select1 = document.select(".aa");
        System.out.println(select1);
   }
}

Jsoup解析器_Element

 Element: 元素对象

常用方法:

String text():获取元素包含的纯文本。

String html():获取元素包含的带标签的文本。

String attr(String attributeKey):获取元素的属性值。

public class Demo4 {
    // Document
    public static void main(String[] args) throws IOException {
        String path = Demo4.class.getClassLoader().getResource("com/itbaizhan/jsoup/student.xml").getPath();
        Document document = Jsoup.parse(new File(path), "utf-8");
        // 使用CSS选择器获取元素
        Elements elements = document.select("#baizhan_0001");
        Element element = elements.get(0);
        System.out.println(element.text());
        System.out.println("-----------------------");
        System.out.println(element.html());
        System.out.println("-----------------------");
        System.out.println(element.attr("id"));
   }
}

Jsoup解析器_XPath解析

 XPath即为XML路径语言,它是一种用来确定标记语言文档中某部 分位置的语言。

使用方法:

1 导入 Xpath 的jar包 、

2 获取 Document 对象

3 将 Document 对象转为 JXDocument 对象

4 JXDocument 调用 selN(String xpath) ,获取 List 对象。

5 遍历 List ,调用 JXNode 的 getElement() ,转为 Element 对象。

6 处理 Element 对象。

public class Demo5 {
    // Document
    public static void main(String[] args) throws IOException, XpathSyntaxErrorException 
  {
        String path = Demo5.class.getClassLoader().getResource("com/itbaizhan/jsoup/student.xml").getPath();
        // 1. 获取`Document`对象
        Document document = Jsoup.parse(new File(path), "utf-8");
        //2. 将`Document`对象转为`JXDocument`对象
        JXDocument jxDocument = newJXDocument(document);
        //3. `JXDocument`调用`selN(String xpath)`,获取`List<JXNode>`对象。
        //       List<JXNode> jxNodes = jxDocument.selN("//name");
        // 想拿到baizhan_0001的年龄
        List<JXNode> jxNodes = jxDocument.selN("//student[@id='baizhan_0001']/age");
        //4. 遍历`List<JXNode>`,调用`JXNode`的`getElement()`,转为`Element`对象。
        for (JXNode jxNode : jxNodes) {
            Element element = jxNode.getElement();
            //5. 处理`Element`对象。
            System.out.println(element);
       }
   }
}

 XML案例_使用Jsoup完成网页爬虫

 网络爬虫(web crawler):自动抓取互联网信息的程序。

比如我们要开发一个网站,在网页的右上角需要显示今日天 气,如果人工查询天气预报维护非常繁琐,我们就可以使用爬 虫程序自动爬取天气网站的程序,自动更新。 

Jsoup可以通过URL获取网页的HTML源文件,源文件中包含着网站 数据,我们可以解析HTML源文件的数据来获取我们需要的信息。 

爬虫步骤:

1 引入jar包。

2 使用Jsoup获取网页HTML源文件,转为Document对象

3 通过Document对象,获取需要的Element对象

4 获取Element对象的数据。

5 设置循环自动爬取

public class CrawlerDemo {
    public static void main(String[] args) {
        int min = 9734020;
        int max = 9734346;      
         // 循环爬取数据
        for (int i = min; i <= max; i++) {
            try {
                //1. 使用Jsoup获取网页HTML源文件,转为Document对象
                Document document = Jsoup.parse(new URL("http://daily.zhihu.com/story/"+i), 3000);
                //       System.out.println(document);
                //2. 通过Document对象,获取需要的Element对象
                Elements headerImgEle = document.getElementsByAttributeValue("alt","头图");
                Elements titleEle = document.select(".DailyHeader-title");
                Elements authorEle = document.select(".author");
                Elements contentELe = document.select(".content");
                //3. 获取Element对象的数据。
              System.out.println(headerImgEle.get(0).attr("src"));
              System.out.println(titleEle.get(0).text());
              System.out.println(authorEle.get(0).text());
              System.out.println(contentELe.get(0).text());
           }catch (Exception e){}
       }
   }
}

 XML案例_使用XML配置爬虫程序的参数

爬虫程序有一些参数需要配置,如果直接将参数写在JAVA程序中, 则修改参数非常不方便,所以此时我们将参数写在XML配置文件 中,通过解析XML文件获取参数的配置信息。

 1 编写爬虫程序的XML配置文件 Crawler.xml

<?xml version="1.0"?>
<Crawler>
    <min>9734020</min>
    <max>9734346</max>
</Crawler>

2 编写爬虫程序

public class CrawlerDemo {
    public static void main(String[] args) throws IOException {
        int min = 0;
        int max = 0;
        // 解析XML配置文件
        String path = CrawlerDemo.class.getClassLoader().getResource("com/itbaizhan/crawler/Crawler.xml").getPath();
        Document document1 = Jsoup.parse(new File(path), "utf-8");
        Elements minELe = document1.getElementsByTag("min");
        Elements maxELe  = document1.getElementsByTag("max");
        min = Integer.parseInt(minELe.get(0).text());
        max = Integer.parseInt(maxELe.get(0).text());
        // 循环爬取数据
        for (int i = min; i <= max; i++) {
            try {
                //1. 使用Jsoup获取网页HTML源文件,转为Document对象
                Document document = Jsoup.parse(new URL("http://daily.zhihu.com/story/"+i), 3000);
             //       System.out.println(document);
                //2. 通过Document对象,获取需要的Element对象
                Elements headerImgEle = document.getElementsByAttributeValue("alt", "头图");
                Elements titleEle =document.select(".DailyHeader-title");
                Elements authorEle =document.select(".author");
                Elements contentELe =document.select(".content");
                //3. 获取Element对象的数据。
              System.out.println(headerImgEle.get(0).attr("src"));
              System.out.println(titleEle.get(0).text());
              System.out.println(authorEle.get(0).text());
              System.out.println(contentELe.get(0).text());
           }catch (Exception e){}
       }
   }
}