使用FlyEnv实现一键部署本地AI
FlyEnv 是一款专为现代开发者设计的全能环境管理工具。它通过提供快速多版本切换、全栈技术支持以及无缝跨平台体验来简化开发过程。无论你使用的是 PHP、NodeJS、Java、Go 还是 Pvthon,FlyEnv都能通过一个命令集成所有必要的工具消除配置烦恼,让你专注于真正重要的事情--创作,而不是调试。
简介
做为一名php开发人员,FlyEnv已经是我的必装软件了,它支持多个平台,免费开源,可以让你一键集成各种开发环境,网络开发必备。
今天我们来聊聊它的另外一个功能,本地AI部署。
使用
它是通过集成大模型部署工具Ollama来实现本地AI部署的

安装
安装最新版本,然后在模型库里根据电脑配置选择相应的模型即可.

建议模型大小为内存一半大小为宜。

对话
通过点击右下角的对话框来打开对话窗口。

可以点击设置图标来选择模型

点击右边的新建聊天,建立新的对话

可以编辑设定角色


可以与AI进行各种对话

