在 iterm2 中使用本地大语言模型 ollama 进行工作

2024-06-142万
精华项目
AI 快速预览详细 收起
本文介绍了如何在最新版本的iTerm2中使用本地大语言模型ollama。首先,你需要下载并安装iTermAI-1.1.zip插件。然后,在iTerm2的设置中打开AI选项卡,配置AI Prompt和Custom URL(例如http://127.0.0.1:11434/v1/chat/completions)。完成配置后,你可以在终端中使用CMD+y调出窗口,输入自然语言需求,然后按shift+回车执行生成的命令。这样,你就可以在iTerm2中高效地使用ollama了。


item2 是 mac 系统终端最好的替代品。
最近 iterm2 更新到了 3.4
在 iterm2 中使用本地大语言模型 ollama 进行工作图1
最新版本的 iterm2 支持了使用 ai 辅助使用。之前 3.3 版本只能使用 openai 的接口。3.4 版本可以使用非 openai 的接口。
我们就来看下怎么设置
在 iterm2 中使用本地大语言模型 ollama 进行工作图2打开终端后可以通过CMD+,打开设置
在 iterm2 中使用本地大语言模型 ollama 进行工作图3
打开 ai 选项卡
在 iterm2 中使用本地大语言模型 ollama 进行工作图9
注意,iterm 2为了隐私,将原来的集成方式改为插件方式。
接下来就是安装插件。先下载插件。插件为 zip 文件,解压缩后放在应用目录下就好了。
在 iterm2 中使用本地大语言模型 ollama 进行工作图4
安装好插件后,就可以设置ollama 的使用。
OpenAI API Key 可以随便填,或者你可以填 ollama
AI Prompt需要根据选择的模型调整。经过测试,我使用了:
  1. #!/usr/bin/\(shell)
  2. # Note this command runs on systems like this: \(uname)
  3. # The next line will do this: \(ai.prompt)
  4. DO NOT include commentary NOR Markdown triple-backtick code blocks as your whole response will be copied into my terminal automatically.
复制代码

Model 可以根据你机器上安装的 ollama 模型选择,我这里选择了llama3:8b
Cutstom URL填入http://127.0.0.1:11434/v1/chat/completions
关闭选项卡就可以使用了
在终端里就可以使用了。
用 CMD+y 就可以调出窗口,就可以在窗口输入需求,大语言模型就可以根据自然语言来给出命令。
在 iterm2 中使用本地大语言模型 ollama 进行工作图5
然后按 shift+回车就可以启动大语言模型的使用了。
在 iterm2 中使用本地大语言模型 ollama 进行工作图6
一开始的时候,会需要一点时间加载模型。
在 iterm2 中使用本地大语言模型 ollama 进行工作图7
转换成的命令就出现了。用shift+回车就可以执行这条命令了。
在 iterm2 中使用本地大语言模型 ollama 进行工作图8
这样 ollama 就可以在 iterm2 部署好了。


参考资料:
https://iterm2.com/version3.html
https://iterm2.com/ai-plugin.html

FriJune-202406144673..png (71 KB, 下载次数: 2256)

iTerm2 · 使用本地大语言模型 ollama 进行工作_image_3.webp

FriJune-202406148588..png (55.14 KB, 下载次数: 2156)

iTerm2 · 使用本地大语言模型 ollama 进行工作_image_6.webp

iTermAI-1.1.zip

60.59 KB, 下载次数: 3358

创作许可协议

本项目采用 None(不开放任何权利,保留所有权利) 进行许可。

评论(1)
yoyojacky
yoyojacky
哈哈,不错的,我已经更新了我的iterm2,搞起来了
- 没有更多了 -