首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

#gpu

坏了,我的RTX 3090 GPU在对我唱歌!

机器之心

在一个昏暗的机箱里,一台 RTX 3090 GPU「唱」着经典英语儿歌《一闪一闪亮晶晶》(Twinkle,Twinkle,Little Star)的旋律。

1900

从零开始手搓GPU,照着英伟达CUDA来,只用两个星期

机器之心

近日,美国一家 web3 开发公司的创始工程师之一 Adam Majmudar 分享了他「手搓 GPU」成功的经历,引发了网友们的一大片点赞。令人惊讶的是,他仅...

1500

在GPU上加速RWKV6模型的Linear Attention计算

BBuf

本文主要讲一些看到的RWKV 6模型的Linear Attention模块推理加速方法,在这篇博客中暂不涉及对kernel的深入解析。首先,flash-line...

5610

【Rust日报】Luminal:在 Rust 中编译快速 GPU 内核

MikeLoveRust

https://kyju.org/blog/piccolo-a-stackless-lua-interpreter/

10210

Cupy:利用 NVIDIA GPU 来加速计算

luckzack

CuPy 是一个开源的 Python 库,它的设计初衷是为了使得在 GPU 上的计算变得简单快捷。 它提供了与 NumPy 非常相似的 API,这意味着如果你...

16010

又一款国产GPU量产上市:性能媲美10年前AMD嵌入式显卡!

芯智讯

5月7日,据“中国光谷”消息,武汉凌久微电子有限公司(简称“凌久微”)宣布,其自主设计的第二代图形处理器(GPU)GP201已成功量产上市。

13710

AI时代CIO如何应对GPU匮乏

云云众生s

通过采用模型优先的心态、优化利用率和战略性地运用负载平衡,首席信息官可以缓解芯片短缺。

9110

突破摩尔定律极限!前谷歌量子计算团队首创「热力学计算机」,英伟达GPU「退役」?

新智元

比起当前的CPU、GPU、TPU、FPGA等数字处理器,这种全新的AI加速器快了数个数量级,而且更加节能。

6110

使用 DPDK 和 GPUdev 在 GPUs上增强内联数据包处理

ssbandjl

对于 NVIDIA 特定的 GPU,GPUdev 库功能是通过CUDA 驱动程序 DPDK 库在 DPDK 驱动程序级别实现的。要启用NVIDIA GPU 上所...

12510

突破摩尔定律极限!前谷歌量子计算团队首创「热力学计算机」,英伟达GPU「退役」?

公众号-arXiv每日学术速递

比起当前的CPU、GPU、TPU、FPGA等数字处理器,这种全新的AI加速器快了数个数量级,而且更加节能。

8910

为什么大模型训练需要GPU,以及适合训练大模型的GPU介绍

JOYCE_Leo16

今天偶然看到一篇关于介绍GPU的推文,我们在复现代码以及模型训练过程中,GPU的使用是必不可少的,那么大模型训练需要的是GPU,而不是CPU呢。现在市面上又有哪...

22510

什么是 GPU集群网络、集群规模和集群算力?

ICT百科

在生成式AI(GenAI)和大模型时代,不仅需要关注单个GPU卡的算力,更要关注GPU集群的总有效算力。单个GPU卡的有效算力可以通过该卡的峰值算力来测算,例如...

18810

大模型与AI底层技术揭秘(31)令狐冲化身酒剑仙

用户8289326

在Kubernetes的Master节点上,也增加一个组件,叫做gpu-admission,其作用是接管Kubernetes Scheduler的predica...

8310

onnxruntime-gpu 预热速度优化

为为为什么

在 Python 下 onnxruntime-gpu 加载 onnx 模型后,创建 seddion 进行数据推断,在第一次执行时会比之后执行耗时更久,需要资源更...

15110

GPU可以加速芯片设计的Implementaion吗?

猫叔Rex

在数字设计的Implementation过程中,从RTL到GDSII的每一步都是高度计算密集型的。在SoC层面,为了最小化互连的延迟,我们需要评估数百个par...

13810

MindSpore运行报错RuntimeError: Unsupported device target GPU解决方案

DechinPhy

在运行MindSpore程序时,设置device_target为GPU,结果运行时报错:

18510

美团外卖基于GPU的向量检索系统实践

美团技术团队

随着大数据和人工智能时代的到来,向量检索的应用场景越来越广泛。在信息检索领域,向量检索可以用于检索系统、推荐系统、问答系统等,通过计算文档和查询向量之间的相似度...

9810

英伟达开卷价格!最新Blackwell GPU架构/成本揭秘,彰显老黄的「仁慈」

新智元

下面就让我们从规格参数、工艺节点、封装设计等方面来深入分析一下新一代Blackwell GPU的系统、定价、利润,以及Jensen's Benevolence(...

11410

谷歌狂喜:JAX性能超越Pytorch、TensorFlow!或成GPU推理训练最快选择

新智元

谷歌力推的JAX在最近的基准测试中性能已经超过Pytorch和TensorFlow,7项指标排名第一。

9510

台积电董事长预测:未来15年每瓦GPU性能提升1000倍,GPU晶体管数破万亿!

新智元

GTC 2024大会上,老黄祭出世界最强GPU——Blackwell B200 ,整整封装了超2080亿个晶体管。

7910
领券
http://www.vxiaotou.com