DeepSeek本地化部署,并使用接口调用eps
一、下载并安装Ollama
Ollama支持多种大模型架构,官网地址: https://ollama.com/,根据需要下载自己系统对应的工具。下载完成后安装即可。
二、下载并部署DeepSeek
1、找到deepseek模型
在Ollama官网找到Models,点击Models,并找到deepseek-r1模型
2、选择需要的模型
点击并进入deepseek-r1模型,选择自己需要的模型下载,模型越大,推理和生成能力越强,处理更复杂的任务,提供更精准的结果,当然对电脑的配置要求更高。
b是十亿的意思,70b是700亿个参数,以此类推。
3、安装模型
“win+r”输入cmd,打开终端,输入以下命令安装deepseek模型,输入的命令就是官网上给出的地址,复制出来就行。
等待安装完成~
以上就deepseek就在本地部署完成了!
4、验证deepseek是否安装成功
方法一:在终端输入命令“ollama --version”,返回版本信息,说明安装成功。
方法二:在浏览器访问:http://127.0.0.1:11434/,出现“Ollama is running”表示安装成功。
三、使用deepseek
打开cmd终端,输入命令开始使用deepseek,直接输入问题就可以了。
如果已经下载过deepseek,输入命令后会直接运行,如果没有下载会下载。
输入/bye退出模型。
四、API接口调用
通过代码调用Ollama提供的API接口,实现模型的能力。
接口列表地址:ollama/docs/api.md at main · ollama/ollama · GitHub
示例
url地址:http://127.0.0.1:11434/api/xxx,端口是11434,使用哪个接口把“xxx”替换成需要的接口,根据每个端口的参数要求组装参数。
public function chat() { $url = "http://127.0.0.1:11434/api/chat"; $postData = [ 'model' => 'deepseek-r1:1.5b', // 将此更改为所需的模型名称 'messages' => [ [ 'role' => 'user', 'content' => '为什么天是蓝色的?' ], [ 'role' => 'assistant', 'content' => '由于瑞利散射' ], [ 'role' => 'user', 'content' => '这和mie散射有什么不同?' ], [ 'role' => 'assistant', 'content' => '“这和mie散射有什么不同”其实是在询问,除了瑞利散射之外, mie散射如何通过多种方式影响天空的颜色变化。' ], [ 'role' => 'user', 'content' => '我一共问了几个问题?请列出来。' ] ], 'stream' => false ]; // 初始化cURL会话 $ch = curl_init($url); curl_setopt($ch, CURLOPT_RETURNTRANSFER, true); curl_setopt($ch, CURLOPT_POST, true); curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode($postData)); // 执行cURL请求并获取响应 $response = curl_exec($ch); $httpCode = curl_getinfo($ch, CURLINFO_HTTP_CODE); // 关闭cURL会话 curl_close($ch); print_r($httpCode); print_r($response); }