一起养成写作习惯！这是我参与「掘金日新计划 · 4 月更文挑战」的第10天，点击查看活动详情
大数据和计算资源的快速发展，让人工智能已被广泛应用于人类生活的许多方面，包括经济、医疗、教育、交通等，在这些方面它已经彻底改变了行业并取得了许多成就。由于这些成就，深度学习技术也应用于安全关键任务。例如，在自动驾驶车辆中，深卷积神经网络（CNN）用于识别道路标志\cite{2012Multi}。这里使用的机器学习技术要求高度精确、稳定和可靠。但是，如果CNN模型无法识别路边的“停车”标志，并且车辆继续行驶，该怎么办？这将是一个危险的局面。考虑到人工智能在城轨应用中在现代社会中扮演的重要角色，有必要让人工智能可信，这样人类就可以依赖人工智能，而不必担心其潜在危害。信任对于充分发挥人工智能的潜力至关重要。轨道交通作为当前智慧城市建设最重要的公共交通方式，客流量巨大，除了自身运输任务以外，还肩负着保障人民群众安全的职责，是安全级别极高的行业。尽管目前人工智能技术推动了在许多行业的创新与换代，如无人驾驶,智慧运维，智慧车站，智慧调度等，但是其在展现出强大的智慧能力的同时，偶尔发生的事故也逐渐表现出其潜在的技术风险。然而，随着AI系统的迅速发展，AI系统也暴露了其不可信任的一面。人工智能不仅需要在提供服务时保持较高的效率，还需要保障较高的安全性，可信性以及可解释性。近年来，出现了大量关于值得信赖的人工智能的文献。随着对构建可信人工智能的需求不断增加，讨论与城轨系统结合的深度神经网络的可信问题以及未来研究的可能方向势在必行。这章我们将介绍可信人工智能的相关方面的介绍，并对可信人工智能在智慧城轨的应用中作出展望。首先，先介绍一些常见的攻击手段，然后我们先简要地从五个方面介绍一下可信人工智能：
值得信赖的词源于信任一词，该词在《牛津英语词典》中被描述为“对某人或某事的可靠性、真实性或能力的坚定信念”，或在《剑桥词典》中被描述为“您可以依赖某人或某事的信念”。广义而言，信任是人类社会中普遍存在的概念，为人类文明的可持续发展奠定了重要基础。严格地说，我们的外部环境中总是存在一些潜在风险，因为我们无法完全控制人员和其他实体\cite{Schoorman2007AN}、\cite{2020Data}。正是我们对这些各方的信任使我们能够冒着继续自愿与他们互动的潜在风险。人们之间的信任是必要的。它构成了良好关系的基础，是人们幸福生活和高效合作的必要条件。此外，人类和技术之间的信任也至关重要。没有信任，人类将不愿意利用技术，这无疑会阻碍技术的进步，并阻止人们享受它带来的便利。因此，为了人类和技术之间的双赢局面，有必要保证技术是值得信赖的，这样人们就可以建立信任。在过去的几十年里，人工智能的迅速而令人印象深刻的发展；该领域的每个角落都发生了快速的突破。此外，随着大数据和计算资源的快速发展，人工智能已被广泛应用于人类生活的许多方面，人工智能在现代社会中发挥着重要作用，有必要使人工智能值得信赖，这样人类就可以依赖它，而很少担心其潜在危害。信任对于让人工智能的潜力得到充分实现至关重要——人类能够充分享受其好处和便利。根据欧盟（EU）最近提供的人工智能道德准则\cite{0Trustworthy}，一个值得信赖的人工智能系统应该满足四项道德原则：尊重人类自主、防止伤害、公平和可解释性。基于这四项原则，人工智能研究人员、从业者和政府为值得信赖的人工智能提出了各种具体维度\cite{2020Toward}、\cite{2020Achieving}。我们主要从6个维度介绍可信人工智能，即如图\ref{trustaidim}所示，安全和稳健、不歧视和公平、可解释性、隐私、可审计性和问责制以及环境福祉。
