手把手教你本地运行Meta最新大模型:Llama 3.1,惊奇发现他说自己是ChatGPT?

公众号程序猿DD

共 1263字,需浏览 3分钟

 ·

2024-07-25 11:00

昨晚,Meta发布了最新最强的开源大模型:Llama 3.1。

该模型共有三个版本:

  • • 8B

  • • 70B

  • • 405B

对于这次发布,Meta已经在超过150个涵盖广泛语言范围的基准数据集上评估了性能。此外,Meta还进行了广泛的人工评估,在现实场景中将Llama 3.1与竞争模型进行比较。Meta的实验评估表明:

405B版本的评估数据与目前最强的GPT-4、GPT-4o和Claude 3.5 Sonnet相比具有不错的竞争力:

此外,8B和70B版本与具有相似参数规模的模型相比也有相同甚至更好的表现:

使用 ollama 运行 Llama3.1

下面就来尝个鲜,手把手在本地把Llama3.1的8B版本跑起来。只要跟着下面的步骤做,你不需要有任何技术背景,也能完成。

  1. 1. 安装 ollama

前往官网下载最新的 Ollama:https://ollama.com/

  1. 1. 下载完成之后,打开安装程序,并完成安装步骤。

  2. 2. 打开终端,执行命令:ollama run llama3.1

等待模型下载完成

  1. 3. 完成模型下载,如下图所示:

已经弹出提示:Send a message,可以与AI进行互动了。

  1. 4. 测试一下,尝试让他教我学习Java?

彩蛋

最后,常规操作,问一下你是谁:

啥情况?是ChatGPT?看到这里的小伙伴也试试看,也是一样的结果吗?有朋友知道为什么吗?知道的评论区求解。

我们创建了一个高质量的技术交流群,与优秀的人在一起,自己也会优秀起来,赶紧点击加群,享受一起成长的快乐。




你还在购买国内的各种昂贵又低质的技术教程吗?这里给大家推荐下我们自研的Youtube视频语音转换插件(https://youtube-dubbing.com/),一键外语转中文,英语不好的小伙伴也可以轻松的学习油管上的优质教程了,下面是演示视频,可以直观的感受一下:
如果您觉得这款插件不错,也可以推荐给您身边的朋友,目前我们开通了分享赚钱功能,只要安装本插件登录注册之后,获取邀请链接,放到你的博客侧边栏、友情链接或者发到朋友圈、微博、X等社交平台,就能获得积分,积分现在是可以i直接提现的哦~

推荐阅读

用十条优化措施,将Redis费用降本46万/月

万字长文解析谷歌日历的数据库是怎么设计的

只用CSS实现商品的筛选与展示

为什么不推荐在Spring Boot中使用@Value加载配置

浏览 351
1点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
1点赞
评论
收藏
分享

手机扫一扫分享

分享
举报