50个最佳机器学习公共数据集

916 阅读11分钟

外国自媒体mlmemoirs根据github、福布斯、CMU官网等信息,整理了一张50个最佳机器学习公共数据集的榜单,为大家分享一下~

作者:mlmemoirs 郭一璞 编译  ****

外国自媒体mlmemoirs根据github、福布斯、CMU官网等信息,整理了一张50个最佳机器学习公共数据集的榜单,为大家分享一下~\

提前说下须知:

一、寻找数据集的意义

根据CMU的说法,寻找一个好用的数据集需要注意一下几点:

数据集不混乱,否则要花费大量时间来清理数据。

数据集不应包含太多行或列,否则会难以使用。

数据越干净越好,清理大型数据集可能非常耗时。

应该预设一个有趣的问题,而这个问题又可以用数据来回答。

二、去哪里找数据集

  • Kaggle:爱竞赛的盆友们应该很熟悉了,Kaggle上有各种有趣的数据集,拉面评级、篮球数据、甚至西雅图的宠物许可证。
    www.kaggle.com/
  • UCI机器学习库:最古老的数据集源之一,是寻找有趣数据集的第一站。虽然数据集是用户贡献的,因此具有不同的清洁度,但绝大多数都是干净的,可以直接从UCI机器学习库下载,无需注册。
    mlr.cs.umass.edu/ml/
  • VisualData:分好类的计算机视觉数据集,可以搜索~
    www.visualdata.io/

好了,下面就是那50个数据集了,由于后期加上了一些补充,所以总数已经超过了50。

 机器学习数据集

图片

情绪分析

自然语言处理

UCI的Spambase:一个大型垃圾邮件数据集,对垃圾邮件过滤非常有用。
archive.ics.uci.edu/ml/datasets…

自动驾驶

  • Berkeley DeepDrive BDD100k:目前最大的自动驾驶数据集,包含超过100,000个视频,其中包括一天中不同时段和天气条件下超过1,100小时的驾驶体验。其中带注释的图像来自纽约和旧金山地区。
    bdd-data.berkeley.edu/
  • 百度Apolloscapes:度娘的大型数据集,定义了26种不同物体,如汽车、自行车、行人、建筑物、路灯等。
    apolloscape.auto/
  • Comma.ai:超过7小时的高速公路驾驶,细节包括汽车的速度、加速度、转向角和GPS坐标。
    archive.org/details/com…
  • 牛津的机器人汽车:这个数据集来自牛津的机器人汽车,它于一年时间内在英国牛津的同一条路上,反反复复跑了超过100次,捕捉了天气、交通和行人的不同组合,以及建筑和道路工程等长期变化。
    robotcar-dataset.robots.ox.ac.uk/
  • 城市景观数据集:一个大型数据集,记录50个不同城市的城市街景。
    www.cityscapes-dataset.com/
  • CSSAD数据集:此数据集对于自动驾驶车辆的感知和导航非常有用。不过,数据集严重偏向发达国家的道路。
    aplicaciones.cimat.mx/Personal/jb…
  • KUL比利时交通标志数据集:来自比利时法兰德斯地区数以千计的实体交通标志的超过10000条注释。
    www.vision.ee.ethz.ch/~timofter/t…
  • MIT AGE Lab:在AgeLab收集的1,000多小时多传感器驾驶数据集的样本。
    lexfridman.com/automated-s…
  • LISA:UC圣迭戈智能和安全汽车实验室的数据集,包括交通标志、车辆检测、交通信号灯和轨迹模式。
    cvrr.ucsd.edu/LISA/datase…
  • 博世小交通灯数据集:用于深度学习的小型交通灯的数据集。
    hci.iwr.uni-heidelberg.de/node/6132
  • LaRa交通灯识别:巴黎的交通信号灯数据集。
    www.lara.prd.fr/benchmarks/…
  • WPI数据集:交通灯、行人和车道检测的数据集。
    computing.wpi.edu/dataset.htm…

临床

  • MIMIC-III:MIT计算生理学实验室的公开数据集,标记了约40000名重症监护患者的健康数据,包括人口统计学、生命体征、实验室测试、药物等维度。
    mimic.physionet.org/

一般数据集

除了机器学习专用的数据集,还有一些其他的一般数据集,可能很有趣~

公共政府数据集

  • Data.gov:该网站可以从多个美国政府机构下载数据,包括各种奇怪的数据,从政府预算到考试分数都有。不过,其中大部分数据需要进一步研究。
    www.data.gov/
  • 食物环境地图集:本地食材如何影响美国饮食的数据。
    catalog.data.gov/dataset/foo…
  • 学校财务系统:美国学校财务系统的调查。
    catalog.data.gov/dataset/ann…
  • 慢性病数据:美国各地区慢性病指标数据。
    catalog.data.gov/dataset/u-s…
  • 美国国家教育统计中心:教育机构和教育人口统计数据,不仅有美国的数据,也有一些世界上其他地方的数据。
    nces.ed.gov/
  • 英国数据服务:英国最大的社会、经济和人口数据集。
    www.ukdataservice.ac.uk/
  • 数据美国:全面可视化的美国公共数据。
    datausa.io/
  • 中国国家统计局。
    www.stats.gov.cn/

金融与经济

  • Quandl:经济和金融数据的良好来源,有助于建立预测经济指标或股票价格的模型。
    www.quandl.com/
  • 世界银行开放数据:全球人口统计数据,还有大量经济和发展指标的数据集。
    data.worldbank.org/
  • 国际货币基金组织数据:国际货币基金组织公布的有关国际金融,债务利率,外汇储备,商品价格和投资的数据。
    www.imf.org/en/Data
  • 金融时报市场数据:来自世界各地的金融市场的最新信息,包括股票价格指数,商品和外汇。
    markets.ft.com/data/
  • Google Trends:世界各地的互联网搜索行为和热门新闻报道的数据。
    www.google.com/trends?q=go…
  • 美国经济协会:美国宏观经济数据。
    www.aeaweb.org/resources/d…

传送门

mlmemoirs:50个最佳机器学习公共数据集
medium.com/datadriveni…

备注:有一些网址需要科学上网才能打开。

暂时手头没有工具怎么办?先收藏呀!

请关注和分享↓↓↓\

机器学习初学者\

QQ群:654173748

往期精彩回顾\