当前位置: 首页 > news >正文

Cosmos-Reason1-7B智能体(Agent)开发入门:构建你的第一个AI助手

Cosmos-Reason1-7B智能体(Agent)开发入门:构建你的第一个AI助手

你是不是也好奇,那些能帮你查天气、订行程、甚至写代码的AI助手,到底是怎么做出来的?感觉它们背后有一套复杂的逻辑,离我们普通人很远。

其实没那么神秘。今天,我就带你用Cosmos-Reason1-7B这个模型,从零开始动手搭建一个你自己的AI智能体。我们不做复杂的理论铺垫,直接上手,目标就是让你在半小时内,看到一个能理解你意图、调用工具、并给出建议的“天气出行小助手”活过来。

整个过程就像搭积木,我们会一块一块地拼起来:先让模型学会“思考”和“规划”,再教它使用“工具”(比如查天气),最后让它学会“记忆”对话历史。听起来是不是挺有意思?那咱们就开始吧。

1. 动手之前:先认识你的“积木块”

在开始敲代码之前,咱们得先搞清楚几个核心概念。别担心,我用大白话给你解释,保证一听就懂。

智能体(Agent)是什么?你可以把它想象成一个有“脑子”、有“手”、还有“记事本”的虚拟助手。

  • 脑子(模型):就是Cosmos-Reason1-7B,它负责理解你说的话,思考该怎么做。
  • 手(工具):比如一个查询天气的接口、一个计算器,Agent可以用这些“手”去执行具体操作。
  • 记事本(记忆):用来记住你们之前的对话,这样它就不会问重复的问题,回答也更连贯。

我们这次要做的,就是教会这个“脑子”如何指挥“手”去干活,并且把重要的东西记在“记事本”上。

为什么选Cosmos-Reason1-7B?简单说,它特别擅长“推理”和“规划”。普通的聊天模型可能只会接着你的话往下说,但Cosmos-Reason1-7B能像人一样,先在心里把任务拆解成几步:“用户要出行建议?那我得先知道他要去哪、什么时候去。好,第一步,问他目的地。第二步,查那里的天气。第三步,根据天气给建议。” 这种“分步骤思考”的能力,正是构建智能体的核心。

2. 环境准备:给你的助手安个家

我们得先找个地方把模型跑起来。这里我推荐使用星图GPU平台,它预置了环境,我们不用操心复杂的安装和配置,能快速进入正题。

2.1 获取模型与基础环境

首先,你需要有一个可以运行模型的Python环境(3.8以上版本),并且安装一些必要的库。

打开你的终端或命令行,执行下面的命令:

# 安装核心的模型加载和对话库 pip install transformers torch # 安装一个帮助我们构建Agent的轻量级框架,这里以LangChain为例,因为它生态丰富,例子多 pip install langchain langchain-community # 安装requests库,用于后面调用天气API pip install requests

接下来,我们需要获取Cosmos-Reason1-7B模型。你可以在ModelScope或Hugging Face等模型社区找到它。这里假设我们从ModelScope加载:

from transformers import AutoTokenizer, AutoModelForCausalLM model_name = "AI-ModelScope/Cosmos-Reason1-7B" tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True) model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True, torch_dtype=torch.float16, device_map="auto")

这段代码会把模型和分词器下载到本地。torch.float16表示用半精度加载,节省显存;device_map=“auto”会自动把模型分配到可用的GPU上。

2.2 快速验证模型

环境搭好了,我们先跟模型打个招呼,确保它能正常工作。

def simple_chat(prompt): inputs = tokenizer(prompt, return_tensors="pt").to(model.device) outputs = model.generate(**inputs, max_new_tokens=200) response = tokenizer.decode(outputs[0], skip_special_tokens=True) # 只截取模型生成的部分,去掉我们的提问 return response[len(prompt):] test_prompt = "你好,请介绍一下你自己。" print(simple_chat(test_prompt))

如果运行后能看到一段连贯的自我介绍,恭喜你,模型的“脑子”已经准备就绪了!

3. 核心实战:打造天气出行助手

现在进入最有趣的部分——赋予这个“脑子”行动能力。我们将分三步走:造工具、定规则、串流程。

3.1 第一步:制造“工具手”

工具就是Agent能调用的外部函数。我们先造一个最简单的——模拟查询天气。

import requests import json def get_weather(city: str) -> str: """ 模拟获取城市天气信息。 参数: city: 城市名,例如“北京” 返回: 一个描述天气的字符串 """ # 这里为了演示,我们模拟一个返回结果。 # 在实际应用中,你可以替换成真正的天气API,比如和风天气、OpenWeatherMap等。 weather_data = { "北京": "晴朗,温度25℃,微风,紫外线强度中等,适合户外活动。", "上海": "多云,温度28℃,东南风3级,湿度较高,建议携带雨具。", "广州": "雷阵雨,温度30℃,南风4级,有短时强降水,出行请注意安全。", "深圳": "阵雨转多云,温度29℃,湿度大,体感闷热。" } if city in weather_data: return f"{city}的天气情况是:{weather_data[city]}" else: return f"抱歉,暂时没有{city}的天气信息。" # 测试一下工具 print(get_weather("北京"))

运行一下,你会看到输出了“北京的天气情况是:...”。看,第一只“手”做好了。

3.2 第二步:编写“思考指南”

我们需要告诉模型,什么时候该思考,什么时候该用工具。这通过编写“提示词”来实现。提示词就像给模型的工作说明书。

from langchain.prompts import PromptTemplate from langchain.chains import LLMChain from langchain.llms import HuggingFacePipeline from transformers import pipeline # 首先,将我们的模型包装成LangChain能用的格式 hf_pipeline = pipeline( "text-generation", model=model, tokenizer=tokenizer, max_new_tokens=200, temperature=0.1, # 温度调低,让输出更确定、更可靠 ) llm = HuggingFacePipeline(pipeline=hf_pipeline) # 定义核心的Agent提示词模板 agent_prompt_template = """ 你是一个乐于助人的出行助手。你的任务是理解用户的需求,并通过使用工具来获取信息,最终给出贴心的建议。 你可以使用的工具: 1. `get_weather(city: str)`:查询指定城市的天气详情。 请严格按照以下格式思考和回应: 思考:我需要先理解用户想做什么,然后决定是否需要使用工具,以及使用哪个工具。 行动:如果需要使用工具,就在这里写出工具调用,格式为 `工具名: 参数`。例如:`get_weather: 北京`。如果不需要工具,就写 `无`。 观察:这是工具返回的结果,或者你对当前情况的分析。 最终答案:在获得所有必要信息后,给用户一个完整、友好的回答。 现在,开始对话: 用户:{user_input} 历史对话:{chat_history} 思考:{agent_scratchpad} """ PROMPT = PromptTemplate( input_variables=["user_input", "chat_history", "agent_scratchpad"], template=agent_prompt_template ) # 创建一个链,将提示词和模型结合起来 agent_chain = LLMChain(llm=llm, prompt=PROMPT)

这段代码是核心中的核心。我们定义了一个严格的“思考-行动-观察”格式,强迫模型按照这个逻辑来工作。agent_scratchpad这个变量就是用来记录它每一步的思考和工具返回结果的。

3.3 第三步:组装并运行你的Agent

现在,我们把工具、提示词和记忆系统组装起来,并写一个主循环让它跑起来。

from langchain.memory import ConversationBufferMemory # 初始化记忆,让Agent能记住对话历史 memory = ConversationBufferMemory(memory_key="chat_history", input_key="user_input") # 一个简单的工具调用解析和执行函数 def parse_and_execute_action(action_str): if action_str.strip() == "无": return "无需使用工具。" if action_str.startswith("get_weather:"): city = action_str.split(":")[1].strip() return get_weather(city) else: return f"未知的行动指令: {action_str}" # 主对话函数 def run_agent_conversation(): print("天气出行助手已启动!输入‘退出’来结束对话。") chat_history = "" while True: user_input = input("\n你:") if user_input.lower() in ["退出", "exit", "quit"]: print("助手:再见!祝你旅途愉快!") break # 初始化思考过程 scratchpad = "思考:" max_steps = 5 # 防止无限循环 final_answer = None for step in range(max_steps): # 生成模型响应(包含思考和行动) full_response = agent_chain.run({ "user_input": user_input, "chat_history": chat_history, "agent_scratchpad": scratchpad }) # 解析响应,提取“行动”部分 lines = full_response.split('\n') action = None for line in lines: if line.startswith('行动:'): action = line[3:].strip() # 去掉“行动:” break # 执行工具调用,获取观察结果 observation = parse_and_execute_action(action) scratchpad += f"\n{full_response}\n观察:{observation}" # 检查响应中是否有“最终答案” for line in lines: if line.startswith('最终答案:'): final_answer = line[5:].strip() # 去掉“最终答案:” break if final_answer: print(f"助手:{final_answer}") # 将本轮对话存入历史 memory.save_context({"user_input": user_input}, {"output": final_answer}) chat_history = memory.load_memory_variables({})["chat_history"] break if not final_answer: print("助手:我好像有点混乱了,我们重新开始吧。") # 运行助手 if __name__ == "__main__": run_agent_conversation()

保存并运行这个完整的脚本。你会看到一个命令行交互界面。试着输入:“我明天想去北京,天气怎么样?” 看看你的Agent是如何一步步思考、调用天气工具,并最终给你建议的。

4. 效果初探与优化方向

运行起来后,你可能会发现它有时候能完美工作,有时候又会“犯傻”。这很正常,我们的第一个版本还很基础。这里有几个你马上可以尝试的优化点:

  1. 增强工具能力:把模拟天气函数换成真实的天气API,让它提供更精确的温度、湿度、风速、未来几小时预报等信息。
  2. 改进提示词:在提示词里加入更多例子,教模型在不同场景下该如何反应。比如用户说“北京和上海哪个天气好?”,你应该教它分别查询两个城市再比较。
  3. 增加更多工具:比如加入一个suggest_activity(weather)工具,根据天气情况(晴朗、下雨)推荐室内或室外活动。
  4. 使用更成熟的框架:我们上面用的是一个非常简化的自制循环。在实际项目中,我强烈建议使用 LangChain 或 LlamaIndex 等框架内置的AgentExecutor,它们已经帮你处理好了复杂的循环、错误处理和工具调用逻辑,更稳定也更强大。

5. 总结

走完这一趟,你应该已经感受到了,构建一个基础智能体并没有想象中那么难。关键就是把“模型思考”、“工具调用”和“任务规划”这几个环节打通。

我们今天做的这个“天气出行助手”,虽然简单,但已经包含了智能体最核心的骨架。你完全可以在这个基础上,发挥想象力,添加更多工具,比如查询航班、推荐餐厅、翻译语言,把它打造成你的专属多功能助手。

动手试试吧,从修改提示词、增加一个新工具开始。你会发现,看着自己创造的AI从笨拙到逐渐聪明起来,这个过程本身就充满了乐趣和成就感。


获取更多AI镜像

想探索更多AI镜像和应用场景?访问 CSDN星图镜像广场,提供丰富的预置镜像,覆盖大模型推理、图像生成、视频生成、模型微调等多个领域,支持一键部署。

http://www.cnnetsun.cn/news/1382802.html

相关文章:

  • Qwen3-32B私有部署镜像解析:CUDA12.4与PyTorch2.0.1二进制兼容性验证报告
  • 模电实战手记之《负反馈:从概念到四种组态的精准识别》
  • 免安装光谱分析工具:一键计算CIE三刺激值与色温(CCT)
  • 计算机毕业设计java基于微信小程序的首饰商城系统 基于微信小程序的珠宝饰品在线销售平台设计与实现微信小程序驱动的轻量化首饰商城系统研发
  • AI 大模型到IDE/插件的使用
  • FPN特征金字塔网络实战:如何在YOLOv5中集成并提升小目标检测效果
  • 频谱分析仪实战指南:从基础设置到精准测量
  • 蝶形激光器驱动温度控制全解析:为什么线性控温比PWM更适合种子源?
  • 终极散热控制方案:3步解决Dell G15笔记本过热问题
  • 剩余参数(Rest Parameters,语法为 ...args)替代旧版 arguments 对象
  • Element-plus虚拟表格实战:如何用Vue3快速构建高性能预约管理系统
  • MapStruct进阶指南:解锁条件映射与异常处理的实战技巧
  • 最新PHP盲盒商城系统源码 晒图+免签+短信验证+在线回收 thinkphp框架
  • Secure Boot与Linux兼容性:如何在Ubuntu 22.04上配置安全启动
  • 超酷炫!19 台空压机集中控制系统揭秘
  • 代码智能助手IQuest-Coder-V1-40B-Instruct部署教程:Docker-compose全流程
  • AI绘画新手入门:基于Anything V5的Web服务快速搭建指南
  • SVN权限控制的核心原理
  • 今天,我遇到了一个非常有趣的研究项目,关于电热综合能源系统的优化调度问题。听起来可能有点 technical,但咱们一步步来分析
  • 从手机到智能手表:ROM、RAM和FLASH在消费电子产品中的实际应用对比
  • 计算机网络面试必问:从OSI七层到TCP三次握手,一次搞懂核心概念
  • 【实战指南】微信小程序分包优化策略与性能提升
  • Fish-Speech-1.5在虚拟偶像中的应用:个性化语音合成方案
  • 2-to-1多路选择器的Verilog实现与全流程验证
  • GLM-OCR入门指南:3步完成Ubuntu系统下的模型部署与调用
  • 网络模拟器双开指南:华三HCL与华为ENSP的和平共处之道
  • 解锁VMware macOS支持:使用Unlocker工具的完整技术指南
  • springboot微信小程序社区居民传染病防治信息系统
  • Z-Image-Turbo模型性能优化:JavaScript实现前端流式图片生成与预览
  • DeepAnalyze效果惊艳:同一份用户调研问卷开放题,DeepAnalyze vs 人工标注一致性达91%