字节跳动安全中心

在企业环境中引入了智能体业务，智能体在运行过程中是作为一个服务身份来运行，还是需求额外的身份？智能体在响应用户请求时是“扮演”用户，还是“代理”用户？

“回音室攻击”（Echo Chamber）的新型越狱方法，可诱骗几乎所有主流大语言模型生成不良内容。

本文深入分析了MCP面临的七种主要安全风险，包括传统Web服务风险及工具描述投毒、间接提示词注入等新型威胁，并结合具体案例进行说明。最后，本文提出了火山引擎针对性的MCP安全架构与保障方案。

随着LLM被广泛应用于搜索、问答、医疗、金融等关键领域，这种“一本正经胡说八道”的回答不仅影响用户体验，也可能带来严重的实际风险。因此，如何识别、抑制甚至消除幻觉，已经成为亟待解决的重要课题。

随着 LLM 应用场景的持续拓展与深化，一系列严峻的安全挑战接踵而至，其中提示词攻击已逐渐演变为威胁人工智能系统安全的核心隐患，亟待深入剖析与应对。

该智能体通过7×24小时全自动值守、智能化分析研判，实现日处理告警能力提升10倍以上，单条告警研判时效压缩至20秒级别，为关键信息基础设施防御体系构建提供了“AI 告警研判官”级的智能运营支撑。

3月21日14点，字节跳动安全范儿技术沙龙焕新开启，看大模型如何挖漏洞，LLM产品本身的安全风险以及深度还原DeepSeek是如何被攻击的

论文揭示了大语言模型安全领域服务框架的侧信道漏洞，利用多租户场景下的KV缓存共享机制精确恢复了用户提示词。

运行在可信执行环境（TEE）内的WebAssembly（Wasm）运行时设计一套适合机密计算的内存管理方案。