当前位置：首页 > 科技 > 网络

终结闭源霸权 Meta Llama 3.1横空出世！Intel第一时间适配并提供加速

来源：责编：时间：2024-07-25 16:34:55 60观看

导读快科技7月25日消息，日前Meta正式发布了Llama 3.1开源大模型，以其庞大的参数量和卓越性能，首次在多项基准测试中击败了GPT-4o等业界领先的闭源模型。允许开发者自由地进行微调、蒸馏，甚至在任何地方部署，这种开放

快科技7月25日消息，日前Meta正式发布了Llama 3.1开源大模型，以其庞大的参数量和卓越性能，首次在多项基准测试中击败了GPT-4o等业界领先的闭源模型。

允许开发者自由地进行微调、蒸馏，甚至在任何地方部署，这种开放性为AI技术的普及和创新提供了无限可能。

Llama 3.1支持128k的上下文长度和多语言能力，无论是在基本常识、可操作性还是数学、工具使用和多语言翻译方面，都展现出了行业领先的能力。

紧随其后，芯片巨头Intel迅速响应，宣布其AI产品组合已全面适配Llama 3.1，并针对Intel AI硬件进行了软件优化。

包括了数据中心、边缘计算以及客户端AI产品，确保用户能够在Intel平台上获得佳的性能体验。

Intel的适配工作涵盖了PyTorch及Intel PyTorch扩展包、DeepSpeed、Hugging Face Optimum库和vLLM等，确保了从研发到部署的全流程支持。

终结闭源霸权 Meta Llama 3.1横空出世！Intel第一时间适配并提供加速

目前，Intel AI PC及数据中心AI产品组合和解决方案已面向全新Llama 3.1模型实现优化，OPEA（企业AI开放平台）亦在基于Intel至强等产品上全面启用。

根据基准测试，在第五代Intel至强平台上以1K token输入和128 token输出运行80亿参数的Llama 3.1模型，可以达到每秒176 token的吞吐量，同时保持下一个token延迟小于50毫秒。

在配备了酷睿Ultra处理器和锐炫显卡的AI PC上，进行轻量级微调和应用定制比以往更加容易，并且AI工作负载可无缝部署于CPU、GPU以及NPU上，同时实现性能优化。

终结闭源霸权 Meta Llama 3.1横空出世！Intel第一时间适配并提供加速基于第五代Intel至强可扩展处理器的Llama 3.1推理延迟

终结闭源霸权 Meta Llama 3.1横空出世！Intel第一时间适配并提供加速在配备内置Intel锐炫显卡的Intel酷睿Ultra 7 165H AI PC上，Llama 3.1推理的下一个token延迟

终结闭源霸权 Meta Llama 3.1横空出世！Intel第一时间适配并提供加速在使用Intel锐炫A770 16GB限量版显卡的AI PC上，Llama 3.1推理的下一个token延迟

终结闭源霸权 Meta Llama 3.1横空出世！Intel第一时间适配并提供加速基于Llama 3.1的端到端RAG流水线，由Intel Gaudi 2加速器和至强处理器提供支持

本文链接：http://www.28at.com/showinfo-17-103393-0.html终结闭源霸权 Meta Llama 3.1横空出世！Intel第一时间适配并提供加速

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 2024年《财富》中国500强排行榜揭晓：国家电网位居榜首京东民企第一

下一篇：精致女生坐高铁带货网红大团建

标签：

热门焦点

中兴AX5400Pro+上手体验：再升级双2.5G网口+USB 3.0这次全都有

2021年11月的时候，中兴先后发布了两款路由器产品，中兴AX5400和中兴AX5400 Pro，从产品命名上就不难看出这是隶属于同一系列的，但在外观设计上这两款产品可以说是完全没一点关系
6月安卓手机好评榜：魅族20 Pro蝉联冠军

性能榜和性价比榜之后，我们来看最后的安卓手机好评榜，数据来源安兔兔评测，收集时间2023年6月1日至6月30日，仅限国内市场。第一名：魅族20 Pro好评率：95%5月份的时候魅族20 Pro就是
十个可以手动编写的 JavaScript 数组 API

JavaScript 中有很多API，使用得当，会很方便，省力不少。你知道它的原理吗? 今天这篇文章，我们将对它们进行一次小总结。现在开始吧。1.forEach()forEach()用于遍历数组接收一参
从 Pulsar Client 的原理到它的监控面板

背景前段时间业务团队偶尔会碰到一些 Pulsar 使用的问题，比如消息阻塞不消费了、生产者消息发送缓慢等各种问题。虽然我们有个监控页面可以根据 topic 维度查看他的发送状态，
不容错过的MSBuild技巧，必备用法详解和实践指南

一、MSBuild简介MSBuild是一种基于XML的构建引擎，用于在.NET Framework和.NET Core应用程序中自动化构建过程。它是Visual Studio的构建引擎，可在命令行或其他构建工具中使用
一文掌握 Golang 模糊测试（Fuzz Testing）

模糊测试（Fuzz Testing）模糊测试（Fuzz Testing）是通过向目标系统提供非预期的输入并监视异常结果来发现软件漏洞的方法。可以用来发现应用程序、操作系统和网络协议等中的漏洞或
猿辅导与新东方的两种“归途”

作者｜卓心月出品｜零态LT（ID：LingTai_LT）如何成为一家伟大企业？答案一定是对“势”的把握，这其中最关键的当属对企业战略的制定，且能够站在未来看现在，即使这其中的
机构称Q2全球智能手机出货量同比下滑11% 苹果份额依旧第2

7月20日消息，据外媒报道，研究机构的报告显示，由于需求下滑，今年二季度全球智能手机的出货量，同比下滑了11%，三星、苹果等主要厂商的销量，较去年同期均有下
亲历马斯克血洗Twitter，硅谷的苦日子在后头

文/刘哲铭　　编辑/李薇　　马斯克再次挥下裁员大刀。　　美国时间11月14日，Twitter约4400名外包员工遭解雇，此次被解雇的员工的主要工作为内容审核等。此前，T