前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >“ChatGPT 们” 所需算力真是“贵滴夸张”!

“ChatGPT 们” 所需算力真是“贵滴夸张”!

作者头像
掘金安东尼
发布2023-03-15 21:11:24
3690
发布2023-03-15 21:11:24
举报
文章被收录于专栏:掘金安东尼掘金安东尼

先抛几个数据:

当下,每天有超过 2 亿的人在疯狂地抛出各式各样的问题请求 ChatGPT 回复

如果要完成这 2 亿+ 的咨询量,初始投入需要 3 万+ 块英伟达 A100 GPU 来计算

而 A100 是当下这个星球拥有最强 AI 算力的芯片,买一块至少要 7W+ RMB?

image.png
image.png

意思就是:光计算这些有意义/无意义的问题,就要花费:21 亿+ RMB ?

这还不算电费/维护费等,众所周知,这种庞大计算类似矿机,很费电

一块 A100,功率 400W,30000 块 A100 ,就是 12_000_000 W,是 12 MW(12 个 100 万瓦)

image.png
image.png

目前,“GPT们”就像是井喷一样出现了各类产品,先不管算的结果怎么样,大家先支棱起来、先算起来

有预测:十年后,“GPT们” 一天所需算力的生产功率相当于半个核电站产生的功率,这是离谱且夸张的!全球算力几乎快要无法满足“GPT们”了

image.png
image.png

所以,以 ChatGPTPlus(每月20刀) 为代表的 “GPT们” 很贵,因为它本来算力消费就很贵,“用 GPT 编程比招一个普通程序员更贵”的段子并非玩笑。

所以,为什么算力如此重要?为什么微软要和韩国SK集团布局自建核电站?为什么咱们要强调西数东算、云计算等等?从这里也能窥见一斑。

不夸张的说,在未来,国力强弱一方面将通过算力强弱来体现。

image.png
image.png

2016年6月的不同国家之间的超级计算机500强的分布

image.png
image.png

超级计算机模拟风洞实验

小思考:在未来,算力的瓶颈将如何突破?

—— 目前芯片仍处在传统冯·诺伊曼架构之下,存储和计算区域是分离的,搬运数据“从存储到计算”花费巨大的功耗,如果能实现“存算一体”(就像大脑一样)将提升算力进入新的量级。

所以“存算一体”可能是个方向~

本文参与?腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2023-03-14,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客?前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与?腾讯云自媒体分享计划? ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
http://www.vxiaotou.com