入门数据分析选择Python还是SQL?七个常用操作对比

·  阅读 116

SQL和Python几乎是当前数据分析师必须要了解的两门语言,它们在处理数据时有什么区别?本文将分别用MySQL和pandas来展示七个在数据分析中常用的操作,希望可以帮助掌握其中一种语言的读者快速了解另一种方法(文末也有给大家整理两种方法的视频教程,大家按需学习就好)

一、选择

在SQL中,我们可以使用SELECT语句从表选择数据,结果被存储在一个结果表中,语法如下:

SELECT column_name,column_name
FROM table_name;
复制代码

如果不想显示全部的记录,可以使用TOP或LIMIT来限制行数。因此选择tips表中的部分列可以使用下面的语句

SELECT total_bill, tip, smoker, time
FROM tips
LIMIT 5;
复制代码
![入门数据分析选择Python还是SQL?七个常用操作对比](https://p1-tt.byteimg.com/origin/pgc-image/b7f01d961ff3498db3422b7006ebb115?from=pc)

而在pandas中,我们可以通过将列名列表传递给DataFrame来完成列选择

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p3-tt.byteimg.com/origin/pgc-image/bdea819244e1486d83220786d6334eed?from=pc)

在SQL中,进行选择的同时还可以进行计算,比如添加一列

SELECT *, tip/total_bill as tip_rate
FROM tips
LIMIT 5;
复制代码
![入门数据分析选择Python还是SQL?七个常用操作对比](https://p1-tt.byteimg.com/origin/pgc-image/1bdb3e586e2c487282d4cafea56bb06b?from=pc)

在pandas中使用DataFrame.assign()同样可以完成这个操作

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p1-tt.byteimg.com/origin/pgc-image/6b51375bb8a04f2c953673722b55e013?from=pc)

二、查找

单条件查找

在SQL中,WHERE子句用于提取那些满足指定条件的记录,语法如下

SELECT column_name,column_name
FROM table_name
WHERE column_name operator value;
复制代码

比如查找示例数据中time = dinner的记录

SELECT *
FROM tips
WHERE time = 'Dinner'
LIMIT 5;
复制代码
![入门数据分析选择Python还是SQL?七个常用操作对比](https://p6-tt.byteimg.com/origin/pgc-image/5d1aa474bc714eb48bc2822ee7ae386d?from=pc)

而在pandas中,按照条件进行查找则可以有多种形式,比如可以将含有True/False的Series对象传递给DataFrame,并返回所有带有True的行

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p6-tt.byteimg.com/origin/pgc-image/2b4d8717185941bcb4de4e3add497bda?from=pc)

多条件查找

在SQL中,进行多条件查找可以使用AND/OR来完成

SELECT *
FROM tips
WHERE time = 'Dinner' AND tip > 5.00;
复制代码
![入门数据分析选择Python还是SQL?七个常用操作对比](https://p3-tt.byteimg.com/origin/pgc-image/1d7e07cc3c1546adac3404662cea34ec?from=pc)

在pandas中也有类似的操作

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p3-tt.byteimg.com/origin/pgc-image/5cd581debc914903974f8c9435fb9d44?from=pc)

查找空值

在pandas检查空值是使用notna()和isna()方法完成的。

frame[frame['col1'].notna()]
复制代码

在SQL中可以使用IS NULL和IS NOT NULL完成

SELECT *
FROM frame
WHERE col2 IS NULL;

SELECT *
FROM frame
WHERE col1 IS NOT NULL;
复制代码

三、更新

在SQL中使用UPDATE

UPDATE tips
SET tip = tip*2
WHERE tip < 2;
复制代码

而在pandas中则有多种方法,比如使用loc函数

tips.loc[tips['tip'] < 2, 'tip'] *= 2
复制代码

四、删除

在SQL中使用DELETE

DELETE FROM tips
WHERE tip > 9;
复制代码

在pandas中,我们选择应保留的行,而不是删除它们

tips = tips.loc[tips['tip'] <= 9]
复制代码

五、分组

在pandas中,使用groupby()方法实现分组。groupby()通常是指一个过程,在该过程中,我们希望将数据集分为几组,应用某些功能(通常是聚合),然后将各组组合在一起。

常见的SQL操作是获取整个数据集中每个组中的记录数。例如,通过对性别进行分组查询

SELECT sex, count(*)
FROM tips
GROUP BY sex;
复制代码
![入门数据分析选择Python还是SQL?七个常用操作对比](https://p3-tt.byteimg.com/origin/pgc-image/1f3c8f1cd2c14635a7f83a500d44db32?from=pc)

在pandas中的等价操作为

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p1-tt.byteimg.com/origin/pgc-image/a565617db5c5404c83d9f7d7a61951c5?from=pc)

注意,在上面代码中,我们使用size()而不是count() 这是因为count()将函数应用于每一列,并返回每一列中非空记录的数量!

六、连接

在pandas可以使用join()或merge()进行连接,每种方法都有参数,可让指定要执行的联接类型(LEFT,RIGHT,INNER,FULL)或要联接的列。

现在让我们重新创建两组示例数据,分别用代码来演示不同的连接

df1 = pd.DataFrame({'key': ['A', 'B', 'C', 'D'],
   ....:                     'value': np.random.randn(4)})
   ....: 

df2 = pd.DataFrame({'key': ['B', 'D', 'D', 'E'],
   ....:                     'value': np.random.randn(4)})
复制代码

内连接

内联接使用比较运算符根据每个表共有的列的值匹配两个表中的行,在SQL中实现内连接使用INNER JOIN

SELECT *
FROM df1
INNER JOIN df2
  ON df1.key = df2.key;
复制代码

在pandas中可以使用merge()

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p1-tt.byteimg.com/origin/pgc-image/507d5bdb3f1b41ee9c5f21706581be47?from=pc)

merge()提供了一些参数,可以将一个DataFrame的列与另一个DataFrame的索引连接在一起

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p1-tt.byteimg.com/origin/pgc-image/a222a301c1f24975876b98e7f5dbd4da?from=pc)

左/右外联接

在SQL中实现左/右外连接可以使用LEFT OUTER JOIN和RIGHT OUTER JOIN

SELECT *
FROM df1
LEFT OUTER JOIN df2
  ON df1.key = df2.key;

SELECT *
FROM df1
RIGHT OUTER JOIN df2
  ON df1.key = df2.key;
复制代码

在pandas中实现同样可以使用merge()并指定how关键字为left或者right即可

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p1-tt.byteimg.com/origin/pgc-image/fd0705cff34046d4a0bdea42a980c78a?from=pc)

全连接

全连接返回左表和右表中的所有行,无论是否匹配,但并不是所有的数据库都支持,比如mysql就不支持,在SQL中实现全连接可以使用FULL OUTER JOIN

SELECT *
FROM df1
FULL OUTER JOIN df2
  ON df1.key = df2.key;
复制代码

在pandas中实现同样可以使用merge()并指定how关键字为outer

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p1-tt.byteimg.com/origin/pgc-image/aff1b1c8451d445092c313291a227523?from=pc)

七、合并

SQL中UNION操作用于合并两个或多个SELECT语句的结果集,UNION与UNION ALL类似,但是UNION将删除重复的行。示例代码如下

SELECT city, rank
FROM df1
UNION ALL
SELECT city, rank
FROM df2;
/*
         city  rank
      Chicago     1
San Francisco     2
New York City     3
      Chicago     1
       Boston     4
  Los Angeles     5
*/
复制代码

在pandas中可以使用concat()实现UNION ALL

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p3-tt.byteimg.com/origin/pgc-image/376330836c9e4c3d80c5156ad703dcd4?from=pc)

上面是UNION ALL保留重复值,如果希望删除可以使用 drop_duplicates()

![入门数据分析选择Python还是SQL?七个常用操作对比](https://p3-tt.byteimg.com/origin/pgc-image/c90e645d2a754985a254dd0ab0ec763b?from=pc)

以上就是本文的全部内容,可以看到在不同的场景下不同的语言有着不同的特性

分类:
后端
标签:
分类:
后端
标签: