这是我参与8月更文挑战的第20天,活动详情查看:8月更文挑战
一、Hive 数据类型
1.1 基本数据类型
Hive数据类型 | Java数据类型 | 长度 | 例子 |
---|---|---|---|
TINYINT | byte | 1byte有符号整数 | 20 |
SMALINT | short | 2byte有符号整数 | 20 |
INT | int | 4byte有符号整数 | 20 |
BIGINT | long | 8byte有符号整数 | 20 |
BOOLEAN | boolean | 布尔类型,true或者false | TRUE FALSE |
FLOAT | float | 单精度浮点数 | 3.14159 |
DOUBLE | double | 双精度浮点数 | 3.14159 |
STRING | string | 字符系列。可以指定字符集。可以使用单引号或者双引号。 | ‘now is the time’ “for all good men” |
TIMESTAMP | 时间类型 | ||
BINARY | 字节数组 |
对于 Hive 的 String 类型相当于数据库的 varchar 类型,该类型是一个可变的字符串,不过它不能声明其中最多能存储多少个字符,理论上它可以存储 2GB的字符数。
1.2 集合数据类型
数据类型 | 描述 | 语法示例 |
---|---|---|
STRUCT | 和c语言中的struct类似,都可以通过“点”符号访问元素内容。例如,如果某个列的数据类型是STRUCT{first STRING, last STRING},那么第1个元素可以通过字段.first来引用。2 | struct()例如struct<street:string, city:string> |
MAP | MAP是一组键-值对元组集合,使用数组表示法可以访问数据。例如,如果某个列的数据类型是MAP,其中键->值对是’first’->’John’和’last’->’Doe’,那么可以通过字段名[‘last’]获取最后一个元素 | map()例如map<string, int> |
ARRAY | 数组是一组具有相同类型和名称的变量的集合。这些变量称为数组的元素,每个数组元素都有一个编号,编号从零开始。例如,数组值为[‘John’, ‘Doe’],那么第2个元素可以通过数组名[1]进行引用。 | Array()例如array |
Hive 有三种复杂数据类型 array、 map、和 struct 。array 和 map 与 Java 的 Array 和 Map 类似,而 Struct 和 c 语言的 struct 类似,它封装了命名字字段集合,复杂数据类型允许任意层次的嵌套
案例实操:
-
1、假设某表有如下一行,我们用 JSON 格式来表示其数据结果,在 Hive 下访问的格式为:
{ "name": "songsong", "friends": ["bingbing" , "lili"] , //列表Array, "children": { //键值Map, "xiao song": 18 , "xiaoxiao song": 19 } "address": { //结构Struct, "street": "hui long guan" , "city": "beijing" }}
-
2、基于上述数据结构,我们在 Hive里创建对应的表,并导入数据
创建本地测试文件 test.txt
songsong,bingbing_lili,xiao song:18_xiaoxiao song:19,hui long guan_beijingyangyang,caicai_susu,xiao yang:18_xiaoxiao yang:19,chao yang_beijing
注意:Map、struct、array 里的元素间关系都可以用同一个字符表示,这里用 “_”.
-
3、在Hive 上创建测试表 test
create table test( name string, friends array<string>, children map<string, int>, address struct<street:string, city:string>)row format delimited fields terminated by ','collection items terminated by '_'map keys terminated by ':'lines terminated by '\n';
字段解析:
- row format delimited fields terminated by ',' -- 列分隔符
- collection items terminated by '_' --MAP STRUCT 和 ARRAY 的分隔符(数据分割符号)
- map keys terminated by ':' -- MAP中的key与value的分隔符
- lines terminated by '\n'; -- 行分隔符
-
4、导入文本数据到测算表
load data local inpath '/opt/module/hive/datas/test.txt' into table test;
-
5、访问三种集合列里的数据,以下分别是 array、map、struct 的访问方式
hive (default)> select friends[1],children['xiao song'],address.city from testwhere name="songsong";OK_c0 _c1 citylili 18 beijingTime taken: 0.076 seconds, Fetched: 1 row(s)
1.3 类型转化
Hive 的原子数据类型是可以进行隐式转换的,类似于 Java 的类型转化,例如某表达式使用 INT 类型, TINYINT 会自动转化为 INT 类型,但是 Hive 不会将 int 转化为 tinyint。
1.3.1 隐式类型转换规则
- 1、任何整数类型都可以隐式地转换为一个范围更广的类型,如 tinyint 可以转化 int ,int 可以转化为 bigint
- 2、所有整数类型、float、string 类型都可以隐式地转化成 DOUBLE
- 3、TINYINT 、smallint、int 都可以转化为 Float
- 4、boolean 类型不可以转化为任何其他的类型
1.3.2 可以使用 cast 操作显示进行数据类型转化
例如 cast(‘1’ as INT ) 将字符串 1 转化为整数1,如果强制类型转化失败,例如 cast ('x' as int),表达式返回空值 null 。
0: jdbc:hive2://hadoop102:10000> select '1'+2, cast('1'as int) + 2;
+------+------+--+
| _c0 | _c1 |
+------+------+--+
| 3.0 | 3 |
+------+------+--+