写模型保护这一章时,我把自己部署到 Jetson 的 steel_defect_orin_fp16.engine 放进了 Ghidra。想弄清楚的问题很具体:模型转成 engine 以后,别人拿到这个文件,还能看到多少信息?
这次实验已经能看到卷积、池化、FP16 计算实现,以及部分权重的类型和数量描述。这些内容可以帮助分析部署产物,也能说明模型保护为什么不能只依靠格式转换。不过,读到这些描述,距离恢复完整网络和权重还有一段工作要做。下面按实际操作过程,把工具用法、分析方法和判断依据整理下来。
先明确分析对象
Ghidra 是带图形界面的逆向分析工具,常见用途是分析可执行文件、动态库和固件中的机器代码。它能显示汇编、识别函数、整理交叉引用,并在支持的处理器架构上把函数转成接近 C 语言的伪代码。
AI 项目里有几类文件容易混在一起,需要先分清。
| 对象 | 主要内容 | 本次分析的切入点 |
|---|---|---|
| 推理应用和原生动态库 | CPU 指令、函数、字符串、调用关系 | 分析读取、解密、加载模型的代码 |
| ONNX 文件 | 网络图、算子、张量及相关属性 | 优先用 ONNX 解析工具查看结构 |
| TensorRT engine | 优化后的执行信息、权重和相关运行数据等 | 先观察字节与字符串,再结合 TensorRT 工具验证 |
.engine 是 TensorRT 的序列化部署产物,不能直接当成普通 AArch64 程序反编译。即使内部包含 GPU 代码,整个容器也不因此变成一个普通的 CPU 可执行文件。Ghidra 能把文件读进来,不代表它已经理解了 TensorRT 的序列化格式,更不代表能自动导出原来的 PyTorch 源码。
这次先做静态分析:不执行模型,观察文件里保留了什么。查看原始字节和字符串不需要 Jetson,也不需要 GPU;后面要让 TensorRT 加载引擎,则需要兼容的软件和硬件环境。
在 Ubuntu 上启动并导入 engine
JDK 路径填到哪一级
本次使用 Ghidra 12.2。它的启动程序提示需要 64 位 JDK 25 或更高版本。我把 JDK 单独放在工具目录,避免为了一个工具改动系统默认 Java。
下面从已经下载好的 /tmp/temurin-jdk25.tar.gz 开始解压。这份压缩包需要与 Ubuntu 主机架构对应;我的分析主机是 x86-64,目标板 Jetson 的 AArch64 架构不影响这里的选择。
JDK_DIR=/home/minipoc2/yocto_new/general_total/tools/jdk-25
mkdir -p "JDK_DIR" --strip-components=1
"$JDK_DIR/bin/java" -version
进入解压后的 Ghidra 目录,执行 ./ghidraRun。当出现 Enter path to JDK home directory 时,填写的是 JDK 根目录:
/home/minipoc2/yocto_new/general_total/tools/jdk-25
不要在这个输入框里填写 bin/java,也不要填写 java -version 命令。前者是可执行文件路径,后者是用来检查版本的终端命令。Ghidra 安装包和对应版本要求可从文末官方链接查阅。
Language 不是 Python 或 C 语言
在项目管理窗口中,通过 File → New Project 创建 Non-Shared Project,项目名设为 engine_analysis。随后选择 File → Import File,导入 steel_defect_orin_fp16.engine。
Ghidra 没有把这份文件识别成常见可执行格式,需要按 Raw Binary 导入,并指定 Language。这里的 Language 指处理器语言和数据组织方式,涉及指令集、位宽、字节序等,不是选择 Python、C 或 C++。
图 1 Language 选择窗口。分析原始数据时,需要主动指定解释方式。
本次以查看原始数据为目的,可以使用 DATA:LE:64:default,Compiler 选择 pointer64。若列表中找不到 DATA,可取消 Show Only Recommended Language/Compiler Specs,再在 Filter 中查找。DATA 表示按数据查看,LE 表示小端;64 位是这个分析配置的地址或指针设置,不能据此认定 engine 中所有字段都是 64 位。
我最初的导入摘要里选成了 DATA:BE:64:default,界面显示 Endian: Big。下面保留这张原始截图,作为一次配置错误的记录。后续按小端整数或 FP16 数值解释数据前,应重新以 LE 导入,并根据具体字段验证字节序。
图 2 最初的导入记录使用了 BE。文件大小为 4,332,340 字节,格式为 Raw Binary;数值分析前需修正字节序设置。
单字节 ASCII 字符串的显示不受这次 BE/LE 选择影响,但多字节整数、浮点数和指针会受影响。导入摘要里的 Instructions: 0、Functions: 0 也符合当前按数据查看的方式,不能因此判断模型文件损坏。
从字符串找到计算实现
先分析字符串 再判断内容
双击项目中的文件进入 CodeBrowser,Ghidra 会询问是否分析。对于当前目标,可以进入 Analysis Options,先点 Deselect All,只勾选 ASCII Strings,再执行 Analyze。分析器名称带 ASCII,是按字节识别可打印字符串;它不会解析整个 TensorRT 模型。
图 3 打开分析选项后的界面。做字符串实验时,可取消其他分析项,只保留 ASCII Strings。
初次打开时,Listing 中大量的 ?? 表示这些字节还没有被定义为具体数据类型,并不表示数据丢失或已经加密。右侧 Decompiler 显示 No Function,表示当前位置没有可反编译的函数。面对 engine 数据,不需要强行按快捷键把整个文件反汇编成 CPU 指令。
通过 Window → Defined Strings 打开字符串表,本次识别出了 286 项。表中最重要的两列是 Location 和 String Value:前者用来回到文件里的位置,后者用于检索和理解内容。
图 4 Defined Strings 窗口局部。共识别 286 项,图中可见计算实现名称和 GPU 二进制相关节名。
286 是当前分析配置下已经定义的字符串数量,不是模型层数,也不保证覆盖文件中所有可读文本。没有在这个窗口里找到某个词,还可以继续用 Search → For Strings 或命令行 strings 检查。
双击字符串表中的一条记录,Listing 会跳到对应地址。也可以按 G,输入 0001431f 等地址,回到描述所在的位置,查看前后字节并添加注释。这样可以把“字符串内容”“所在地址”“附近记录”联系起来。后续恢复数据结构时,只给已经确认的字段定义类型,不要把整个 engine 强行定义成指令或浮点数组。
卷积和矩阵运算是什么关系
在 Filter 中输入 implicit_gemm,可以看到 xmma/implicit_gemm_fprop 和带有 indexed_wo_smem 的相关名称。这里的 GEMM 是通用矩阵乘法;结合 fprop 和后面出现的卷积参数描述,这些名称指向卷积前向计算的实现。
图 5 implicit_gemm 相关名称提供了卷积计算实现的线索。
卷积可以组织成矩阵乘法形式。Implicit GEMM 通常在计算过程中组织所需数据,避免先完整生成展开后的大矩阵。看到这个名字,能帮助理解 TensorRT 如何选择底层计算实现;它不能直接告诉我们原始网络叫什么,也不能用来统计卷积层数量。同一实现名称可能在代码、符号或参数描述中重复出现。
池化与 FP16 能看出多少
按 pooling 过滤,可以看到 Pooling、PoolingType,以及 pooling_coalescedC_NHWC_kMAX_2_False 等名称。kMAX 给出了最大池化的线索,NHWC 反映对应实现的数据布局。名称末尾的 _2、_3、False 属于实现命名,不能只看名字就把它们解释成 2×2 或 3×3 池化窗口、步长等模型参数。
图 6 池化相关记录同时包含实现名称和参数字段名。过滤出的 13 条记录不等于 13 个池化层。
进一步查找 f16,会看到较长的计算内核名称。为了阅读方便,可以按下划线把名称拆开看,但不要修改导出的原始文本。
图 7 FP16、数据布局和计算分块信息出现在同一个实现名称中。
| 名称片段 | 能提供的线索 | 需要保留的判断边界 |
|---|---|---|
| f16 或 fp16_traits | 对应实现涉及半精度计算 | 不能证明整个模型的所有运算都使用 FP16 |
| nhwckrsc_nhwc | 对应内核涉及 NHWC 和 KRSC 等布局 | 不代表全部张量都按这一布局存储 |
| tilesize128x64x32 | 底层计算的分块配置 | 不能解释成卷积核大小或输入图像尺寸 |
| sm75、sm80 | 实现命名中的架构相关信息 | 不能据此认定模型实际运行在 Turing 或某一张显卡上 |
NHWC 中,N、H、W、C 分别对应批量、高、宽、通道;KRSC 常用于描述卷积权重的逻辑维度,K 为输出通道,R、S 为空间维度,C 为输入通道。实际权重还可能经过重排、分块和填充,名字只能提供检查方向。
这份导出文件中还出现了 -arch sm_87,与 Jetson AGX Orin 的计算能力 8.7 相符,比单独看到 sm75/sm80 的名称更接近编译目标线索。但最终仍应结合实际设备和运行环境确认。类似地,Cuda compilation tools, release 13.2, V13.2.35 是文件内部保留的编译工具标识,不能直接当作当前 Ubuntu 或 Jetson 上安装的 CUDA 版本。
.shstrtab、.symtab、.text、.note.nv. 等字符串提示内部可能包含 NVIDIA GPU 二进制的相关内容。仅看到这些名字,还不能把整个 engine 当成标准 ELF 文件,也没有完成内部二进制段的提取和验证。
权重描述能推到哪一步
只盯着截图中的算子名字,容易漏掉更有价值的信息。把这次导出的 engine_strings 按地址排列,可以找到三处 Convolution 记录及其附近的 Weights、Kernel、Groups、OutMaps 等字段名,还能看到以下类型和数量描述。
| Convolution 字符串位置 | 附近的 Half 数量描述 | 描述字符串的位置 |
|---|---|---|
| 0x1428a | Count: 144 和 Count: 16 | 0x1431f 和 0x14343 |
| 0x145a5 | Count: 4608 和 Count: 32 | 0x1463a 和 0x1465f |
| 0x148b9 | Count: 18432 和 Count: 64 | 0x1494e 和 0x14974 |
其中一条原始内容是 {"Type": "Half", "Count": 144}。Half 通常指 IEEE 754 半精度浮点类型,每个元素占 2 字节。这里暴露的是类型和数量描述,字符串所在的位置并不是权重数组起始地址。即使按 144 个半精度元素估算得到 288 字节,也不能直接从 0x1431f 开始读 288 字节作为权重。
这些数量足以建立一个值得验证的结构假设。普通二维卷积在逻辑上有:权重元素数 = 输出通道数 × 输入通道数 ÷ groups × 核高 × 核宽。如果假设三组描述分别对应卷积权重和偏置,groups 都为 1,卷积核都为 3×3,那么数量可以对应为:
144 = 16 × 1 × 3 × 3
4608 = 32 × 16 × 3 × 3
18432 = 64 × 32 × 3 × 3
这支持“输入 1 通道,三组卷积输出通道可能依次为 16、32、64”的假设。旁边的 16、32、64 个 Half 元素也与偏置数量相容。不过,字符串表只有字段名和部分描述,尚未证明这些数组的角色,也没有给出 Kernel、Groups 等字段的实际数值,更没有确定层之间的连接关系。
要把假设写成结论,还需要读取对应记录的二进制字段、定位实际权重、确认布局,并与原始模型或 TensorRT 输出的信息核对。三处 Convolution 描述可以作为分析入口,不能因此声称完整网络只有三层卷积。导出表也没有提供原始源码、完整拓扑、输入尺寸、全部参数和训练过程。
对模型保护而言,这一步已经有实际意义:即使没有训练代码,部署产物中的参数描述也可能降低分析者判断网络结构的成本。
把结果导出 再交叉验证
复制前先确认焦点在哪个窗口
我在操作中把整个 Listing 全选过。窗口显示选中了 4,332,340 个地址,随后出现 Setting Clipboard,实际复制的是大段字节列表,而不是那 286 条字符串。几 MB 的原始文件变成带地址和格式的文本后会更大,既慢,也不方便后续分析。
图 8 在 Listing 中全选会选中整个文件的地址范围,复制字符串表应先切回 Defined Strings。
要导出全部字符串,先清空 Defined Strings 底部的 Filter,再点击表格中的任意一行,确认焦点在表格内,然后 Ctrl+A、Ctrl+C,粘贴到文本编辑器保存。若表格右键菜单提供 Export to CSV,也可以直接使用。界面左侧 Symbol Tree 中的 Exports 是导出符号分类,与保存字符串表不是同一个功能。
本次保存的文件名是 engine_strings,没有扩展名,但内容已经是带表头的 CSV,包含 Location、String Value、String Representation、Data Type 四列。它还有反斜杠转义和包含换行的字符串,不能简单按逗号拆分每一行。配套的 analyze_strings.py 按这份文件的实际转义方式读取,整理出按地址升序排列的 CSV。
python3 analyze_strings.py engine_strings engine_strings_sorted.csv
脚本会打印卷积、数量、架构和编译工具相关记录。对这份导出文件,读取结果为 286 条。排序的目的,是把同一段附近的信息放在一起观察;地址接近不等于已经确定了结构体边界和字段关联。
如果只是提取原始文件中的可读文本,Ubuntu 的 strings 更直接。在模型文件所在目录执行:
strings -a -t x -n 8 steel_defect_orin_fp16.engine \
> engine_strings_cli.txt
-a 扫描整个文件,-t x 输出十六进制文件偏移,-n 8 把最短字符串长度设为 8。这个长度会漏掉 Half 等短字符串,需要时可改成 4。它的扫描规则与 Ghidra 不完全相同,输出数量不必相等。本次 Raw Binary 从地址 0 映射,因此显示地址与文件偏移对应;分析其他加载方式的文件时,要重新确认映射关系。
用 TensorRT 核对执行层信息
下一步应在能兼容加载这份 engine 的 Jetson 和 TensorRT 环境里,使用 Engine Inspector 或 trtexec 核对,而不是继续从字符串数量推测网络层数。下面的命令用于后续验证,当前截图没有覆盖这一步。
trtexec --loadEngine=steel_defect_orin_fp16.engine \
--dumpLayerInfo --exportLayerInfo=engine_layers.json
trtexec 需要已安装且能从当前 PATH 找到。engine 的兼容性取决于构建条件、TensorRT 版本和硬件等因素;若加载失败,应先检查环境。能够导出多少细节,还取决于构建引擎时记录的 profiling verbosity。需要更多信息时,通常应在构建阶段设置 --profilingVerbosity=detailed;加载已有引擎时补一个参数,不能补回从未记录的信息。动态输入模型还需要按实际情况提供输入形状。
这里导出的是优化后引擎的层信息,算子融合等优化会改变它与原始网络的对应关系。它可以帮助核对张量维度、层类型和计算实现,并不等同于导出原始网络源码或全部权重。
回到模型保护这一章
这次实验能够确认:这份 engine 中保留了可直接读取的计算实现名称、参数字段和部分权重类型及数量描述。将模型转换成二进制部署格式后,分析者仍可能获得有用线索。模型转换本身不能作为保密机制。
接下来做加密实验时,可以保留原始 engine 与加密文件,比较文件头、可读字符串和加载过程。但“看不到字符串”只能说明这一种观察手段没有得到可读内容,不能证明加密方案可靠。加密实现仍需要检查算法、密钥保存、nonce 使用,以及认证失败时是否拒绝使用数据。采用 AES-GCM 时,需要在认证通过后再把明文交给模型加载流程。
存储加密还需要与运行时行为分开讨论。若 OP-TEE 完成解密后,把完整 engine 返回到普通世界,再由 TensorRT 加载,那么密钥可以留在安全世界,模型明文仍会进入普通世界。文件落盘保护解决了一部分问题,运行时是否能取得明文,还要继续分析进程权限、调试通道和内存访问边界。
对后续章节,我更需要学习的是用 Ghidra 分析自己的原生推理程序:从模型路径和日志字符串找到读取逻辑,沿调用关系检查解密结果在哪里保存、认证失败怎么处理、何时交给 TensorRT。这类 CPU 程序或动态库,才是函数识别、交叉引用和反编译真正能发挥作用的地方。模型文件里的信息暴露,与加载程序里的保护逻辑,两部分需要结合起来验证。
当前先把 engine 的字符串、地址和参数假设记录完整。等拿到 TensorRT 的层信息,再逐项核对通道、卷积核、数据布局和权重描述;只有实际权重被正确定位,并通过数值与推理结果验证后,才能进一步讨论模型恢复到了什么程度。