字节跳动安全中心

面对由 OAuth 2.0动态客户端注册带来的灵活性与潜在风险，我们设计了从“事前预防”到“事中限制”，再到“事后兜底”的完整安全闭环...

通过本最佳实践，开发者能够在不同场景中使用不同的加固方法，从而有效地控制 LLM 行为并防止智能体面临的包括提示词泄露，有害内容输出，越狱等安全威胁。...

Cobalt Strike只是一个缩影，更多APT攻击将走向“无签名、加密、碎片化”。火山引擎云安全团队，正在将这套检测能力进一步拓展至冰蝎、哥斯拉、Sliver以及Myt...

在企业环境中引入了智能体业务，智能体在运行过程中是作为一个服务身份来运行，还是需求额外的身份？智能体在响应用户请求时是“扮演”用户，还是“代理”用户？...

“回音室攻击”（Echo Chamber）的新型越狱方法，可诱骗几乎所有主流大语言模型生成不良内容。...

本文深入分析了MCP面临的七种主要安全风险，包括传统Web服务风险及工具描述投毒、间接提示词注入等新型威胁，并结合具体案例进行说明。最后，本文提出了火山引擎针对性的MCP安...

随着LLM被广泛应用于搜索、问答、医疗、金融等关键领域，这种“一本正经胡说八道”的回答不仅影响用户体验，也可能带来严重的实际风险。因此，如何识别、抑制甚至消除幻觉，已经成为...

随着 LLM 应用场景的持续拓展与深化，一系列严峻的安全挑战接踵而至，其中提示词攻击已逐渐演变为威胁人工智能系统安全的核心隐患，亟待深入剖析与应对。...

该智能体通过7×24小时全自动值守、智能化分析研判，实现日处理告警能力提升10倍以上，单条告警研判时效压缩至20秒级别，为关键信息基础设施防御体系构建提供了“AI 告警研判...

3月21日14点，字节跳动安全范儿技术沙龙焕新开启，看大模型如何挖漏洞，LLM产品本身的安全风险以及深度还原DeepSeek是如何被攻击的...

论文揭示了大语言模型安全领域服务框架的侧信道漏洞，利用多租户场景下的KV缓存共享机制精确恢复了用户提示词。...

运行在可信执行环境（TEE）内的WebAssembly（Wasm）运行时设计一套适合机密计算的内存管理方案。...

本实验室将重点围绕金融行业数据隐私保护与大模型应用面临的挑战，聚焦隐私计算与AI大模型安全两个方向开展建设。...

助力数据可用不可见，隐私计算通过在不泄露数据的前提下实现数据的应用计算，满足数据安全和利用的双重需求。...

2024字节跳动安全范儿高校挑战赛开启，80万+专项奖励基金，快人一步拿到offer，ByteCTF、ByteAI安全挑战赛、ByteHack三大赛道等你来战！...

本文将介绍 Kubernetes 的认证与授权体系以及 RBAC 授权原理。通过实际案例展示 RBAC 管理不当可能带来的安全风险,然后向大家分享 RBAC 安全研发与运维...

vArmor借助 Linux 内核的 LSM（AppArmor & BPF）和 Seccomp 技术对容器进行沙箱加固，从而增强容器隔离性、减少内核攻击面、增加容器逃逸和横...

Get抖音电商业务特有安全风险及其治理技巧、字节内部漏洞治理经验、大型红蓝演练行动经验、云服务安全风险监控及攻击面管理等超多干货知识。...