hive(2) : 数据类型

1,114 阅读4分钟

这是我参与8月更文挑战的第20天,活动详情查看:8月更文挑战

一、Hive 数据类型

1.1 基本数据类型

Hive数据类型Java数据类型长度例子
TINYINTbyte1byte有符号整数20
SMALINTshort2byte有符号整数20
INTint4byte有符号整数20
BIGINTlong8byte有符号整数20
BOOLEANboolean布尔类型,true或者falseTRUE FALSE
FLOATfloat单精度浮点数3.14159
DOUBLEdouble双精度浮点数3.14159
STRINGstring字符系列。可以指定字符集。可以使用单引号或者双引号。‘now is the time’ “for all good men”
TIMESTAMP时间类型
BINARY字节数组

对于 Hive 的 String 类型相当于数据库的 varchar 类型,该类型是一个可变的字符串,不过它不能声明其中最多能存储多少个字符,理论上它可以存储 2GB的字符数。

1.2 集合数据类型

数据类型描述语法示例
STRUCT和c语言中的struct类似,都可以通过“点”符号访问元素内容。例如,如果某个列的数据类型是STRUCT{first STRING, last STRING},那么第1个元素可以通过字段.first来引用。2struct()例如struct<street:string, city:string>
MAPMAP是一组键-值对元组集合,使用数组表示法可以访问数据。例如,如果某个列的数据类型是MAP,其中键->值对是’first’->’John’和’last’->’Doe’,那么可以通过字段名[‘last’]获取最后一个元素map()例如map<string, int>
ARRAY数组是一组具有相同类型和名称的变量的集合。这些变量称为数组的元素,每个数组元素都有一个编号,编号从零开始。例如,数组值为[‘John’, ‘Doe’],那么第2个元素可以通过数组名[1]进行引用。Array()例如array

Hive 有三种复杂数据类型 array、 map、和 struct 。array 和 map 与 Java 的 Array 和 Map 类似,而 Struct 和 c 语言的 struct 类似,它封装了命名字字段集合,复杂数据类型允许任意层次的嵌套

案例实操:

  • 1、假设某表有如下一行,我们用 JSON 格式来表示其数据结果,在 Hive 下访问的格式为:

     {    "name": "songsong",    "friends": ["bingbing" , "lili"] ,       //列表Array,     "children": {                      //键值Map,        "xiao song": 18 ,        "xiaoxiao song": 19    }    "address": {                      //结构Struct,        "street": "hui long guan" ,        "city": "beijing"     }}
    
  • 2、基于上述数据结构,我们在 Hive里创建对应的表,并导入数据

    创建本地测试文件 test.txt

     songsong,bingbing_lili,xiao song:18_xiaoxiao song:19,hui long guan_beijingyangyang,caicai_susu,xiao yang:18_xiaoxiao yang:19,chao yang_beijing
    

    注意:Map、struct、array 里的元素间关系都可以用同一个字符表示,这里用 “_”.

  • 3、在Hive 上创建测试表 test

     create table test(  name string,    friends array<string>,  children map<string, int>,  address struct<street:string, city:string>)row format delimited fields terminated by ','collection items terminated by '_'map keys terminated by ':'lines terminated by '\n';
    

    字段解析:

    • row format delimited fields terminated by ',' -- 列分隔符
    • collection items terminated by '_' --MAP STRUCT 和 ARRAY 的分隔符(数据分割符号)
    • map keys terminated by ':' -- MAP中的key与value的分隔符
    • lines terminated by '\n'; -- 行分隔符
  • 4、导入文本数据到测算表

     load data local inpath '/opt/module/hive/datas/test.txt' into table test;
    
  • 5、访问三种集合列里的数据,以下分别是 array、map、struct 的访问方式

     hive (default)> select friends[1],children['xiao song'],address.city from testwhere name="songsong";OK_c0     _c1     citylili    18      beijingTime taken: 0.076 seconds, Fetched: 1 row(s)
    

1.3 类型转化

Hive 的原子数据类型是可以进行隐式转换的,类似于 Java 的类型转化,例如某表达式使用 INT 类型, TINYINT 会自动转化为 INT 类型,但是 Hive 不会将 int 转化为 tinyint。

1.3.1 隐式类型转换规则
  • 1、任何整数类型都可以隐式地转换为一个范围更广的类型,如 tinyint 可以转化 int ,int 可以转化为 bigint
  • 2、所有整数类型、float、string 类型都可以隐式地转化成 DOUBLE
  • 3、TINYINT 、smallint、int 都可以转化为 Float
  • 4、boolean 类型不可以转化为任何其他的类型
1.3.2 可以使用 cast 操作显示进行数据类型转化

例如 cast(‘1’ as INT ) 将字符串 1 转化为整数1,如果强制类型转化失败,例如 cast ('x' as int),表达式返回空值 null 。

 0: jdbc:hive2://hadoop102:10000> select '1'+2, cast('1'as int) + 2;
 +------+------+--+
 | _c0  | _c1  |
 +------+------+--+
 | 3.0  | 3    |
 +------+------+--+