大模型基础与API调用：主流模型对比与实战接入

说实话，刚开始接触大模型那会儿，我也挺懵的。

市面上模型那么多，GPT-4、Claude、文心一言……每个都说自己厉害。到底选哪个？怎么调？成本怎么控？

今天我就把这些年踩过的坑、总结的经验，一次性给你讲透。

主流大模型横向对比：谁更适合你的场景？

先说说我个人的使用感受。这几个模型我都深度用过，各有各的脾气。

模型	优势	劣势	适合场景
GPT-4	推理能力强，代码生成稳	贵，响应慢	复杂推理、代码生成
Claude 3	长上下文，安全性好	中文理解稍弱	文档分析、内容审核
文心一言 4.0	中文理解强，价格低	英文能力一般	中文客服、内容创作
通义千问	免费额度多，生态好	复杂任务不稳定	快速原型、轻量任务

API调用方式：两种主流姿势

调用大模型API，说白了就两种方式。我习惯都掌握，因为不同项目环境不一样。

方式一：OpenAI SDK（推荐）

这是最省心的方式。你想想看，SDK帮你封装好了所有细节。

from openai import OpenAI

client = OpenAI(
    api_key="你的API密钥",
    base_url="https://api.openai.com/v1"  # 也可以换成其他兼容接口
)

response = client.chat.completions.create(
    model="gpt-4",
    messages=[
        {"role": "system", "content": "你是一个资深AI工程师"},
        {"role": "user", "content": "请解释什么是Agent智能体"}
    ],
    temperature=0.7,
    max_tokens=500
)

print(response.choices[0].message.content)

方式二：HTTP请求（灵活但麻烦）

有些时候，比如在嵌入式设备或者特殊网络环境，没法装SDK。那就得用HTTP请求。

import requests
import json

url = "https://api.openai.com/v1/chat/completions"
headers = {
    "Authorization": "Bearer 你的API密钥",
    "Content-Type": "application/json"
}
data = {
    "model": "gpt-4",
    "messages": [
        {"role": "user", "content": "你好，请介绍一下自己"}
    ],
    "temperature": 0.7
}

response = requests.post(url, headers=headers, json=data)
result = response.json()
print(result['choices'][0]['message']['content'])

Token计算与成本控制：别让账单吓到你

嗯，这里要重点说说。我第一次用GPT-4的时候，一个晚上跑了上千次调用，第二天看到账单差点没坐住。

Token是什么？

说白了，Token就是模型处理文本的最小单位。一个中文汉字大约占1-2个Token，一个英文单词大约占1个Token。

为什么会这样？因为模型内部用的是BPE（字节对编码）分词。中文每个字信息量大，所以占的Token多。

如何计算Token？

我习惯用tiktoken库来算，这样心里有数。

import tiktoken

def count_tokens(text, model="gpt-4"):
    encoding = tiktoken.encoding_for_model(model)
    tokens = encoding.encode(text)
    return len(tokens)

text = "你好，请帮我写一个Python函数，计算斐波那契数列。"
token_count = count_tokens(text)
print(f"这段文本消耗 {token_count} 个Token")

# 输出：这段文本消耗 18 个Token

成本控制三板斧

我在实际项目中总结了三招，很管用。

1. 限制max_tokens：别让模型自由发挥。比如客服场景，设置max_tokens=200就够了。
2. 精简prompt：你想想看，每次调用都带上几千字的system prompt，那成本蹭蹭往上涨。我习惯把公共知识抽出来，用向量数据库存着。
3. 缓存重复请求：同样的用户问题，没必要每次都调API。用Redis缓存一下，能省30%以上的费用。

避坑指南：我踩过的那些坑

最后分享几个实战教训。

• API密钥泄露：我曾经不小心把密钥提交到GitHub，几分钟内就被盗刷了200美元。现在我都用环境变量，而且给密钥设置用量限制。
• 模型版本不一致：同一个模型名，不同时间点可能指向不同版本。我习惯在代码里写死具体版本号，比如gpt-4-0613。
• 忽略错误处理：API调用一定会出错。网络波动、限流、超时……我现在的代码里，每个API调用都包了try-except和重试逻辑。

好了，大模型API调用这块，核心就是这些。记住：选对模型、写好代码、控好成本。这三件事做好了，你的Agent智能体就成功了一半。