第3章大模型基础与选型

大模型基础与选型：主流大模型介绍

做固件审计这些年，我试过不少工具。从早期的静态分析工具，到后来尝试用机器学习做漏洞检测，再到现在的LLM时代。说实话，大模型的出现确实让固件审计这件事有了质的飞跃。今天我就聊聊，怎么给固件审计选一个趁手的模型。

目前市面上能用的模型不少，但真正适合固件代码审计的，其实就那么几个。我一个个说。

GPT-4是我用得最多的模型。它的优势在于理解能力强，特别是面对复杂的控制流和数据流时。我记得有一次分析一个UEFI固件中的SMM漏洞，GPT-4能准确识别出内存访问越界的路径。

但有个问题——它太贵了。而且对于固件中那些特定的汇编指令，比如x86的IN/OUT指令，它偶尔会给出不准确的解释。嗯，这里要注意，GPT-4的训练数据里固件相关的样本其实不多。

Claude的亮点是上下文窗口大。固件代码往往动辄几万行，Claude能一次性读完整个函数调用链。我在分析一个IoT设备的bootloader时，Claude帮我理清了从加电到跳转主程序的完整流程。

不过，Claude对底层硬件的理解不如GPT-4。你问它某个ARM Cortex-M的异常向量表怎么配置，它可能会给出通用但不够精确的答案。

CodeLlama是Meta开源的代码专用模型。它的优势在于可以本地部署，数据不出内网。这对很多做固件审计的团队来说，是刚需。

我曾在一次项目中，把整个固件镜像反编译后喂给CodeLlama做分析。效果嘛，比GPT-4差一些，但胜在可控。而且你可以针对固件场景做微调，我试过用Cortex-M的漏洞样本微调后，准确率提升了大概15%。

核心结论：没有完美的模型。GPT-4适合复杂逻辑分析，Claude适合长上下文场景，CodeLlama适合本地部署和定制化需求。

维度	GPT-4	Claude	CodeLlama
固件代码理解	★★★★☆	★★★★☆	★★★☆☆
汇编分析能力	★★★★☆	★★★☆☆	★★★☆☆
上下文长度	128K	200K	16K
本地部署	否	否	是
成本	高	中	低
定制化能力	低	低	高

你看这个表，其实没有哪个模型能拿满分。选型的关键在于你的场景。

我建议从三个维度来考虑：

数据敏感性：固件代码往往涉及厂商机密。如果数据不能出内网，那就只能选本地部署的模型。CodeLlama是首选，或者你也可以考虑其他开源模型比如StarCoder。
分析深度：如果你需要做深度的漏洞挖掘，比如找出缓冲区溢出、整数溢出这类问题，GPT-4的准确率更高。我做过对比测试，GPT-4在识别固件中的危险函数调用时，准确率比CodeLlama高约20%。
代码规模：如果固件代码量很大，比如超过10万行，Claude的长上下文优势就体现出来了。你不需要手动拆分代码，直接丢进去分析就行。

我的建议：如果你刚开始做固件审计，先用GPT-4跑几个案例，感受一下大模型的能力。等熟悉了，再根据实际需求切换到其他模型。别一上来就搞本地部署，那玩意儿折腾起来挺费时间的。

这个问题我纠结过很久。直接说结论吧。

API调用的好处是省心。你不需要管GPU、显存、模型版本这些事。我刚开始用大模型做固件审计时，就是直接调GPT-4的API。一个月花几百块钱，效果还不错。

但问题也很明显。有一次我分析一个军工客户的固件，对方明确要求数据不能出内网。没办法，只能上本地部署。

本地部署的好处是数据安全，而且长期来看成本更低。但坑也不少。我曾经踩过的坑：

避坑指南：我曾经因为贪便宜，用了一个量化后的4-bit CodeLlama模型做固件审计。结果模型把一些关键漏洞给漏掉了。后来我才发现，量化后的模型在代码理解能力上确实有损失。如果你要做严谨的固件审计，建议用全精度模型。

下面这张图是我自己整理的，把大模型选型的核心逻辑串起来了。你看一眼就能明白。

你看这个决策框架，其实核心就是三个问题。回答完这三个问题，选型就清晰了。

最后给几个实操建议：

一句话总结：选模型就像选工具，没有最好的，只有最合适的。固件审计这个场景，我建议你至少准备两个模型——一个API模型做深度分析，一个本地模型做数据安全兜底。