TinyLlama-1.1B小型但强大的语言模型

0粉丝
TinyLlama 项目旨在在 3 万亿 tokens 上进行预训练,构建一个拥有11亿参数的Llama模型。经过精心优化,"仅"需16块A100-4
简介
TinyLlama 项目旨在在 3 万亿 tokens 上进行预训练,构建一个拥有11亿参数的Llama模型。经过精心优化,"仅"需16块A100-40G的GPU,便可在90天内完成这个任务。训练已于2023-09-01开始。该项目采用了与Llama 2完全相同的架构和分词器。这意味着TinyLla... 更多
其它信息
地区
国产
开发语言
Python
开源组织
所属分类
神经网络/人工智能、 LLM(大语言模型)
授权协议
Apache-2.0
操作系统
跨平台
收录时间
2023-09-26
软件类型
开源软件
适用人群
未知

时光轴

里程碑1
LOG0
2023
2023-09
轻识收录
评价
0.0(满分 10 分)0 个评分
什么是点评分
图片
表情
全部评价( 0)
推荐率 100%
推荐