12676浏览
查看: 12676|回复: 1

[入门] 在 iterm2 中使用本地大语言模型 ollama 进行工作

[复制链接]
本帖最后由 微笑的rockets 于 2024-6-14 12:31 编辑

item2 是 mac 系统终端最好的替代品。
最近 iterm2 更新到了 3.4
在 iterm2 中使用本地大语言模型 ollama 进行工作图1
最新版本的 iterm2 支持了使用 ai 辅助使用。之前 3.3 版本只能使用 openai 的接口。3.4 版本可以使用非 openai 的接口。
我们就来看下怎么设置
在 iterm2 中使用本地大语言模型 ollama 进行工作图2打开终端后可以通过CMD+,打开设置
在 iterm2 中使用本地大语言模型 ollama 进行工作图3
打开 ai 选项卡
在 iterm2 中使用本地大语言模型 ollama 进行工作图9
注意,iterm 2为了隐私,将原来的集成方式改为插件方式。
接下来就是安装插件。先下载插件。插件为 zip 文件,解压缩后放在应用目录下就好了。
在 iterm2 中使用本地大语言模型 ollama 进行工作图4
安装好插件后,就可以设置ollama 的使用。
OpenAI API Key 可以随便填,或者你可以填 ollama
AI Prompt需要根据选择的模型调整。经过测试,我使用了:
  1. #!/usr/bin/\(shell)
  2. # Note this command runs on systems like this: \(uname)
  3. # The next line will do this: \(ai.prompt)
  4. DO NOT include commentary NOR Markdown triple-backtick code blocks as your whole response will be copied into my terminal automatically.
复制代码

Model 可以根据你机器上安装的 ollama 模型选择,我这里选择了llama3:8b
Cutstom URL填入http://127.0.0.1:11434/v1/chat/completions
关闭选项卡就可以使用了
在终端里就可以使用了。
用 CMD+y 就可以调出窗口,就可以在窗口输入需求,大语言模型就可以根据自然语言来给出命令。
在 iterm2 中使用本地大语言模型 ollama 进行工作图5
然后按 shift+回车就可以启动大语言模型的使用了。
在 iterm2 中使用本地大语言模型 ollama 进行工作图6
一开始的时候,会需要一点时间加载模型。
在 iterm2 中使用本地大语言模型 ollama 进行工作图7
转换成的命令就出现了。用shift+回车就可以执行这条命令了。
在 iterm2 中使用本地大语言模型 ollama 进行工作图8
这样 ollama 就可以在 iterm2 部署好了。


参考资料:
https://iterm2.com/version3.html
https://iterm2.com/ai-plugin.html

FriJune-202406144673..png
FriJune-202406148588..png

iTermAI-1.1.zip

60.59 KB, 下载次数: 33

漂移菌  初级技匠

发表于 2024-6-21 23:53:13

哈哈,不错的,我已经更新了我的iterm2,搞起来了
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

为本项目制作心愿单
购买心愿单
心愿单 编辑
[[wsData.name]]

硬件清单

  • [[d.name]]
btnicon
我也要做!
点击进入购买页面
上海智位机器人股份有限公司 沪ICP备09038501号-4

© 2013-2024 Comsenz Inc. Powered by Discuz! X3.4 Licensed

mail