Alpaca-Turbo本地运行 Alpaca 模型的 Web UI
Alpaca-Turbo 是一种无需太多设置即可在本地运行的语言模型,它基于 LLaMA 的 alpaca.cpp 语言模型的用户友好 Web UI,目标是在不牺牲速度或功能的情况下提供易于配置和使用的无缝聊天体验。
安装步骤
1 、 使用 Docker(docker 仅支持 Linux)
进行这一步之前,必须在您的系统上安装 Docker。
注意:出于某种原因,这个 docker 容器可以在 linux 上运行,但不能在 windows 上运行
- 从发布页面下载最新的 alpaca-turbo.zip
- 将 zip 文件的内容提取到名为 alpaca-turbo 的目录中。
- 将您的 Alpaca 模型复制到 alpaca-turbo/models/ 目录。
- 运行以下命令以设置所有内容:
docker-compose up
- 访问 http://localhost:5000 即可使用聊天机器人的聊天界面。
2 、 Windows/Mac M1/M2
- 安装 miniconda:
- 从发布页面下载最新的 alpaca-turbo.zip
- 将 Alpaca-Turbo.zip 提取到 Alpaca-Turbo(确保在提取的位置有足够的空间容纳模型)
- 将您的 Alpaca 模型复制到 alpaca-turbo/models/ 目录。
- 以管理员身份打开cmd并输入
conda init
- 关闭窗口
- 在 Alpaca-Turbo 目录中打开一个新的 cmd 窗口,并输入
conda create -n alpaca_turbo python=3.8 -y conda activate alpaca_turbo pip install -r requirements.txt python api.py
-
访问 http://localhost:5000 ,选择你的模型并点击更改,等待模型加载
-
准备互动
评论
Freedom GPT本地运行 Alpaca 模型
Freedom GPT 是一个桌面应用程序,允许用户在他们的本地机器上运行 Alpaca 模型,使
Freedom GPT本地运行 Alpaca 模型
0
Freedom GPT本地运行 Alpaca 模型
FreedomGPT是一个桌面应用程序,允许用户在他们的本地机器上运行Alpaca模型,使用Electron和React构建。 需求Node.jsYarnGit直接运行应用程序(仅限Mac和Wind
Freedom GPT本地运行 Alpaca 模型
0
AirpalPrestoDB 的 Web UI
Airpal是一个基于Web的查询执行工具,利用Facebook的PrestoDB进行查询和获取结果。提供了查找表、元数据、浏览数据行,编写和执行查询的功能,这些功能全部通过浏览器完成。一旦查询开始执
AirpalPrestoDB 的 Web UI
0
yakGPT本地运行的 ChatGPT
yakGPT是一个简单的、本地运行的ChatGPT用户界面,使你的文本生成速度更快。特点在浏览器上本地运行:不需要安装任何应用程序比官方用户界面更快:直接连接到API轻松整合麦克风:无需再打字使用你自
yakGPT本地运行的 ChatGPT
0
Blazor可在任意浏览器中运行的 Web UI 框架
Blazor是一个WebUI框架,可通过 WebAssembly在任意浏览器中运行.Net 。Blazor旨在简化快速的单页面.Net浏览器应用的构建过程,它虽然使用了诸如CSS和HTML之类的Web
Blazor可在任意浏览器中运行的 Web UI 框架
0