大模型 API 调用要点整理
LLM API 是将大语言模型能力集成到应用中的标准接口,核心是通过 HTTP 请求发送消息列表、接收模型生成的文本响应。
概念速览
核心理解
通俗理解:调用 LLM API 就像和一个超级聪明的客服对话。你把问题发给他(HTTP 请求),他思考后给你回复(响应)。API Key 是你的会员卡,Token 是计费单位(像手机话费按分钟计费一样),流式响应是对方边说你边听(不用等他说完才显示)。
核心要点
核心结论:掌握消息格式 + 流式调用 + 错误处理,就能应对 90% 的 API 集成场景。
关键机制:所有 LLM API 都基于"角色-消息"模式,system 设定行为、user 发送问题、assistant 记录历史。
适用边界:API 调用适合需要 AI 能力的应用集成,不适合需要微调模型或私有部署的场景。
1. 消息角色体系
# 通用消息格式 messages = [ {"role": "system", "content": "你是一个专业助手"}, {"role": "user", "content": "你好"}, {"role": "assistant", "content": "你好!有什么可以帮助你的?"}, {"role": "user", "content": "什么是 API?"} ]2. 主流 API 对比
3. 快速开始代码
OpenAI(最通用) :
from openai import OpenAI client = OpenAI(api_key="your-key") response = client.chat.completions.create( model="gpt-4o", messages=[{"role": "user", "content": "Hello!"}], stream=True # 开启流式 ) for chunk in response: print(chunk.choices[0].delta.content or "", end="")Claude :
import anthropic client = anthropic.Anthropic(api_key="your-key") with client.messages.stream( model="claude-sonnet-4-6", max_tokens=1024, messages=[{"role": "user", "content": "Hello!"}] ) as stream: for text in stream.text_stream: print(text, end="")通义千问 :
from dashscope import Generation response = Generation.call( api_key="your-key", model="qwen-plus", messages=[{"role": "user", "content": "Hello!"}], result_format="message" ) print(response.output.choices[0].message.content)智谱GLM :
from zhipuai import ZhipuAI client = ZhipuAI(api_key="your-key") response = client.chat.completions.create( model="glm-4-plus", messages=[{"role": "user", "content": "Hello!"}] ) print(response.choices[0].message.content)4. 关键参数说明
5. 错误处理要点
# 简单重试模式 import time from openai import RateLimitError def call_with_retry(func, max_retries=3): for i in range(max_retries): try: return func() except RateLimitError: time.sleep(2 i) # 1s, 2s, 4s raise Exception("重试失败")注意事项
- API Key 安全 :永远不要硬编码,使用环境变量管理
- 流式优先 :生产环境务必使用流式响应,提升用户体验
- 成本意识 :简单任务用小模型(gpt-4o-mini),复杂任务再用大模型
- 错误处理 :必须实现重试机制,429 错误用指数退避
这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享!
👇👇扫码免费领取全部内容👇👇
1. 成长路线图&学习规划
要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。
这里,我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。
2. 大模型经典PDF书籍
书籍和学习文档资料是学习大模型过程中必不可少的,我们精选了一系列深入探讨大模型技术的书籍和学习文档,它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础。(书籍含电子版PDF)
3. 大模型视频教程
对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的大模型视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识。
4. 2026行业报告
行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。
5. 大模型项目实战
学以致用,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。
6. 大模型面试题
面试不仅是技术的较量,更需要充分的准备。
在你已经掌握了大模型技术之后,就需要开始准备面试,我们将提供精心整理的大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。
7. 资料领取:全套内容免费抱走,学 AI 不用再找第二份
不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你!
现在只需按照提示操作,就能免费领取:
👇👇扫码免费领取全部内容👇👇
