文章 专题 AI工具 学习 下载 问答 源码 最近更新
PHP
会员中心 讲师中心 微信公众号
首页 > 硬件教程 > 硬件新闻 > 正文

新型 AI 算法亮相：功率降至常规配置 1/50，显存占用降至 1/10

PHPz
发布： 2024-06-28 10:37:35
转载
354人浏览过

本站 6 月 27 日消息，美国加州大学圣克鲁兹分校的研究团队研究出新的方法，只需要 13w 的功率（相当于一个现代 led 灯泡的功率），就能运行 10 亿参数规模的大语言模型。而作为对比，用于大语言模型任务的数据中心级 gpu 需要约 700w。

新型 AI 算法亮相：功率降至常规配置 1/50，显存占用降至 1/10

AI 浪潮下很多公司、机构的研究主方向是应用、推理方面，很少考虑效率等指标。该研究人员为缓解这种状况，淘汰了矩阵乘法的密集型技术，提出了“三元数”方案，只有负一、零或正一三个数值。

团队还使用一种名为现场可编程门阵列（FPGA）的高度定制电路创建了定制硬件，让他们能够最大限度地利用神经网络中的所有节能功能。

在定制硬件上运行时，可以达到与 Meta 的 Llama 等顶级模型相同的性能，但神经网络功率是常规配置的五十分之一。

该神经网络设计还可以用于在人工智能行业常用的标准 GPU 上运行，测试结果显示，与基于矩阵乘法的神经网络相比，显存占用仅为十分之一。

本站附上参考地址

Researchers run high-performing large language model on the energy needed to power a lightbulb

Scalable MatMul-free Language Modeling

以上就是新型 AI 算法亮相：功率降至常规配置 1/50，显存占用降至 1/10的详细内容，更多请关注php中文网其它相关文章！

豆包AI编程
豆包AI编程

智能代码生成与优化，高效提升开发速度与质量！

下载
相关标签：
ai 算法 人工智能 FPGA 数据中心 llama
来源：IT之家网
收藏 点赞
上一篇：上汽大众签署系列新能源技术合作协议 新车2026年起陆续上市 下一篇：SK 海力士官宣“业界最高性能”固态硬盘 PCB01，今年内量产上市
本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系admin@php.cn
作者最新文章
最新问题
Cyber Apocalypse 2023 硬件 CTF 题解 通过分析逻辑分析仪的波形图，我们可以识别出由波形组成的文字，从而得到flag：HTB{b391N_tH3_HArdWAr3_QU3St}解析Gerber文件后，可以找到隐藏的字符串，并将其拼接成flag：HTB{533_7h3_1nn32_w02k1n95_0f_313c720n1c5#$@}通过分析UART通信的波特率，我们能够解码出flag：HTB{547311173_n37w02k_c0mp20m153d}分析Verilog代码后，对干扰的数据进行汉明码解码，通过统计分析我们可以得到fla
2025-05-06 21:02:10
158
Cadence原理图查看PIN总数 在硬件工程师的工作中，经常需要核对layout工作量或提前评估layout成本，这时统计图纸的PIN数就显得尤为重要。之前我们已经介绍了在allegro中查看PIN数的方法，今天我们将补充在Cadence原理图阶段如何查看PIN数的步骤。如果你已经熟悉了allegro的统计方法，可以继续阅读下面的内容，了解在Cadence原理图中查看PIN数的具体操作。喜欢这类文章的朋友，请多多支持，谢谢。正文开始：第一步，打开你的工程文件，并选择你需要统计的工程或原理图页，然后右键点击“EditObjectP
2025-05-06 21:00:21
281
高盛观点：中国低成本AI模型或推动全球AI应用提速 以DeepSeek为代表的中国企业已经成功开发出成本远低于现有产品的先进生成式人工智能（AI）模型。高盛研究部认为，这一突破有望加速AI技术的全球应用，并对全球经济增长产生更深远的影响。这一成就颠覆了此前认为高额投资是进入大型、强大AI模型领域的门槛的看法。全球经济学团队联合负责人约瑟夫·布里格斯（JosephBriggs）在团队报告中指出，尽管中国研究人员如何开发AI技术及其全部成本尚未完全明确，但较低的成本结构有助于AI在全球范围内更快发展和普及。布里格斯表示，“如果成本降低能促进平台和应用
2025-05-06 21:00:04
651
vue.js路由配置和设置技术 路由基础1.1概念路由的概念不仅存在于硬件设备中，也在后端项目中有所应用。例如，访问以下网页：页面1：http://192.168.0.1:8080/index.html页面2：http://192.168.0.1:8080/about.html页面3：http://192.168.0.1:8080/news.html通过URL在地址栏查看这些页面，请求会发送到服务器，服务器根据URL决定跳转到哪个页面。前端路由则利用了HTML5的HistoryAPI，或者之前的哈希散列方式。这种方法可以兼容低
2025-05-06 20:58:23
410
【linux学习指南】Linux进程信号产生(三) 硬件异常&&除零出错？&&野指针异常？&&core文件 ?前言硬件异常被硬件以某种⽅式被硬件检测到并通知内核,然后内核向当前进程发送适当的信号。例如当前进程执⾏了除以0的指令,CPU的运算单元会产⽣异常,内核将这个异常解释为SIGFPE信号发送给进程。再⽐如当前进程访问了⾮法内存地址,MMU会产⽣异常,内核将这个异常解释为SIGSEGV信号发送给进程。?模拟除0代码语言：javascript代码运行次数：0运行复制#include#include#include#include#includeintmain(){if(fork()==0
2025-05-06 20:58:14
612
为什么在CAN总线中显性电平具有高优先级？ CAN总线的设计初衷之一是用于汽车电子系统，对实时性和可靠性有着极高的要求。通过显性优先机制，可以确保关键数据（如刹车信号）在高负载情况下也能优先发送，从而避免延迟或丢失。显性优先的概念可以追溯到更早的总线技术（如I²C）。CAN总线采用线与（Wired-AND）逻辑，通过差分信号进行驱动。其中，显性电平（逻辑“0”）通常由发射器主动驱动，而隐性电平（逻辑“1”）是总线的默认状态，由内部的上拉或下拉电阻保持。因此，为了在信号冲突或干扰时优先传递明确的指令，设计了“显性”电平优先。CAN总线是一种
2025-05-06 20:56:31
211
PCIE时钟解说 承接上篇文章《clockoscillator,generator,buffer选型杂谈》，本文将深入探讨PCIE时钟的具体要求：首先，让我们回顾一下PCIE架构的组成部分：下图展示了CPU（ROOTCOMPLEX）、PCIESWITCH、BUFFER以及一些PCIEENDPOINT；可以看到，每个设备的时钟都是由100MHz经过Buffer后提供的。根据上图的架构，我们来简要了解PCIE时钟的三种架构：公共时钟架构（CommonClockArchitecture）：所有设备的参考时钟在系统板上
2025-05-06 20:54:22
497
基于.NET WinForm开发的一款硬件及协议通讯工具 前言今天大姚为大家介绍一款基于.NETWinForm开发的硬件及协议通讯工具：PLC-CommunTools。项目介绍PLC-CommunTools是一款基于.NETWinForm开发的硬件及协议通讯工具，集成了各类厂商的PLC协议以及基础的TCP、串口通讯和IO口通讯等协议功能。请注意，部分功能仍在不断完善中。项目技术该项目采用C#8.0语法，基于.NETWinForm和.NETFramework4.6.2框架。运行项目源码时，请将CommunTools设置为启动项目。项目源码地址更多项
2025-05-06 20:52:15
916
计算机系统&&操作系统简介 1.计算机系统简介1.1组成结构1.2系统软件计算机中的软件分为系统软件和应用软件。日常使用的软件多为应用软件，而系统软件起初并不存在，但后来逐渐发展起来。系统软件作为人与计算机之间的交互界面，负责管理计算机的硬件和软件。应用软件则包括我们常玩的游戏等程序，而系统软件的种类更为丰富，如语言处理系统、操作系统和服务性程序等，都属于系统软件。1.3冯诺依曼计算机特点1.4硬件构架硬件构架包括运算器、控制器（指挥和控制程序的执行）、存储器、输入设备和输出设备（将计算机处理结果转换为人们熟悉的内容）五个
2025-05-06 20:50:11
281
STM32如何通过软件模拟串口通信？ 在STM32上，通过软件模拟串口通信是完全可行的，即使不使用硬件串口引脚（如RX、TX）也能实现。关键在于精确控制GPIO的时序、波特率、数据位和停止位来完成数据传输。这种方法适用于没有USART硬件支持的场景，或者当其他硬件资源已被占用时。软件串口通信通过控制一个普通的GPIO引脚来模拟串口通信的时序。它模拟的过程包括发送和接收的时钟控制、数据位的编码和解码、起始位和停止位等内容。例如，使用一个GPIO引脚作为TX（数据发送端），另一个作为RX（数据接收端）。在数据传输时，TX端会根据约定的波
2025-05-06 20:48:13
774
相关专题
更多>
热门推荐
开源免费商场系统广告
热门教程
更多>
相关推荐
热门推荐
最新课程
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新
php中文网：公益在线php培训，帮助PHP学习者快速成长！
关注服务号 技术交流群
app下载
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号

  • PHP学习

  • 技术支持

  • 返回顶部