AI00 RWKV Server基于 RWKV 模型的推理 API 服务器

0粉丝
AI00 RWKV Server是一个基于RWKV模型的推理API服务器。支持VULKAN推理加速,可以在所有支持VULKAN的GPU上运行。不用N卡
简介
AI00 RWKV Server是一个基于RWKV模型的推理API服务器。支持VULKAN推理加速,可以在所有支持VULKAN的GPU上运行。不用N卡!!!A卡甚至集成显卡都可加速!!!无需臃肿的pytorch、CUDA等运行环境,小巧身材,开箱即用!兼容OpenAI的ChatGPT API接口。1... 更多
其它信息
地区
国产
开发语言
Rust
开源组织
所属分类
神经网络/人工智能、 LLM(大语言模型)
授权协议
MIT
操作系统
跨平台
收录时间
2023-09-25
软件类型
开源软件
适用人群
未知

时光轴

里程碑1
LOG0
2023
2023-09
轻识收录
评价
0.0(满分 10 分)0 个评分
什么是点评分
图片
表情
全部评价( 0)
推荐率 100%
推荐