不死猫 发表于 2025-1-15 10:08:29

教学：Lisp接入本地免费AI大语言模型

本帖最后由 不死猫 于 2025-1-15 10:55 编辑

目前最热的本地AI语言模型平台是Ollama。

首先打开网站
https://ollama.com/download
下载你系统对应的安装包
安装好之后键盘win+R,输入CMD回车打开系统命令提示符
输入命令Ollama list，如果可以查看，则说明Ollama已经安装好了
猫老师电脑返回内容如下：

NAME                   ID            SIZE      MODIFIED
nemotron-mini:latest    ed76ab18784f    2.7 GB    17 hours ago
llama3.3:latest      a6eb4748fd29    42 GB   2 weeks ago
qwen2.5:latest         845dbda0ea48    4.7 GB    2 weeks ago

然后执行命令，下载模型并开始对话：
Ollama run qwen2.5:7b-instruct
注意，每个模型一般要求系统内存最好大于模型文件的2倍或更高,不然回答会很卡。
在这个网址查询其他的模型下载
https://ollama.com/library
其中qwen2.5是默认的中文模型，可以选择更小的，也可以选择更大的。越大的模型需要的内存越大。
等待下载完成后，
出现对白内容：
>>>Send a message (/? for help)
这时就可以直接聊天了。
等你聊够了，我们输入/bye 可以关闭这个聊天。
接下来是Lisp代码部分，我们要接入这个平台，让我们的Lisp能够和AI进行对话。



kozmosovia 发表于 2025-1-15 15:39:23

应该没啥用，自己训练吗？以个人的时间和训练量来看，基本等于没有训练。直接要获取AI的结果吗？还真不如直接找个支持网页的AI，如DeepSeek问的。

moshouhot 发表于 2025-1-15 21:31:01

能不能让支持openai的api，即DeepSeek接口

dcl1214 发表于 2025-1-15 10:39:44

老猫精品，非常好！

ssyfeng 发表于 2025-1-15 10:44:29

猫老师出品，必是精品！！

loveu515 发表于 2025-1-15 10:45:37


老猫精品，非常好！

laiz3000 发表于 2025-1-15 10:48:53

强大啊

CAD智能@未来 发表于 2025-1-15 14:03:27

猫老师作品，必是精品，强！

煮茗 发表于 2025-1-15 15:24:46

与时俱进~

weijiewen 发表于 2025-1-16 08:43:47

真是学无止境，佩服！
页: [1] 2
查看完整版本: 教学：Lisp接入本地免费AI大语言模型