Chinese-LLaMA-Alpaca中文 LLaMA & Alpaca 大模型

Chinese-LLaMA-Alpaca 包含中文 LLaMA 模型和经过指令微调的 Alpaca 大型模型。

这些模型在原始 LLaMA 的基础上，扩展了中文词汇表并使用中文数据进行二次预训练，从而进一步提高了对中文基本语义理解的能力。同时，中文 Alpaca 模型还进一步利用中文指令数据进行微调，明显提高了模型对指令理解和执行的能力。

本项目主要内容

• 针对原版LLaMA模型扩充了中文词表，提升了中文编解码效率
• 开源了使用中文文本数据预训练的中文LLaMA以及经过指令精调的中文Alpaca
• 快速使用笔记本电脑（个人PC）的CPU/GPU本地量化和部署体验大模型
• 支持Hugging Face transformers,llama.cpp,text-generation-webui,LlamaChat等生态
• 目前已开源的模型版本：7B（标准版、Plus版）、13B（标准版）

下图是中文Alpaca-7B模型在本地CPU量化部署后的实际体验效果（GIF未加速，M1 Max下实测）：