人工智能（AI）技术的好处很多，但它带来的挑战也很多。如果安全和伦理问题得不到妥善解决，在网络安全领域采用人工智能可能会给社会带来重大问题。
人们可以利用人工智能来实现恶意的目标。人工智能对网络安全的影响通常被描述为扩大威胁范围。通过人工智能能够进行恶意攻击的行为者和个人的类别正在激增。同时，针对人工智能系统的新的攻击形式—在性质上与传统的网络攻击不同—以一种指数级的、有时无法衡量的方式增加了连接系统的攻击面。就这些转变而言，研究人员一致认为，人工智能对网络安全格局的影响是：
扩大现有威胁： 廉价且日益有效的人工智能系统可用于攻击，意味着各类个人和团体有可能成为恶意行为者。由于廉价计算硬件的扩散，通过云计算能力的不断增加和成本的降低，以及大多数可以促进模型训练和潜在恶意活动的工具的开源，恶意行为者的范围正在扩大。
引入新的威胁： 除了现有的威胁在规模和范围上的扩大，人工智能的进步意味着可能会引入全新的威胁。人工智能不受人类能力限制的特点，可以让行动者执行原本不可行的攻击，例如深度造假、破解验证码、蜂拥式攻击等。
改变威胁的典型特征： 针对人工智能系统的攻击也经常以窃取信息或破坏系统为目的，但以更微妙的形式和更长远的方向精心设计。他们试图为一个特定的意图获得对目标系统的控制，或者通过入侵系统让模型揭示其内部工作原理，然后改变其行为。这一目标主要可以通过四种类型的攻击来实现，但不限于此：数据中毒、篡改分类模型、后门和人工智能模型的逆向工程。
