SergeAlpaca 模型聊天界面
Serge 是基于 llama.cpp 的聊天界面,用于运行羊驼模型。完全自托管,不需要 API 密钥。适合 4GB RAM 并在 CPU 上运行。
- SvelteKit 前端
- 用于存储聊天记录和参数的 Redis
- API 的 FastAPI + langchain,使用 python 绑定包装对 llama.cpp 的调用
使用
设置 Serge 非常简单,可以在一个命令中完成启动:
docker run -d \
-v weights:/usr/src/app/weights -v datadb:/data/db/ \
-p 8008:8008 ghcr.io/nsarrazin/serge:latest
然后只需转到 http://localhost:8008/ 就可以了!
API 文档可以在 http://localhost:8008/api/docs 找到
评论
SergeAlpaca 模型聊天界面
Serge是基于llama.cpp的聊天界面,用于运行羊驼模型。完全自托管,不需要API密钥。适合4GBRAM并在CPU上运行。SvelteKit前端用于存储聊天记录和参数的RedisAPI的Fast
SergeAlpaca 模型聊天界面
0
AMBubbleTableViewController聊天对话界面效果
AMBubbleTableViewController是基于UITableView实现的聊天对话的界面效果,样式可轻松进行定制。
AMBubbleTableViewController聊天对话界面效果
0
AMBubbleTableViewController聊天对话界面效果
AMBubbleTableViewController 是基于 UITableView 实现的聊天对
AMBubbleTableViewController聊天对话界面效果
0
ChatDoctor医学聊天模型
ChatDoctor是一个使用医学领域知识在LLaMA模型上微调的医学聊天模型。注意:该模型尚未达到100%的准确输出,请不要将其应用到真实的临床场景中。DemoPage: https://huggi
ChatDoctor医学聊天模型
0