首页 科技 正文

如果中国想成为自己的GPT 3号,它必须与这家公司的计算能力密不可分

边策 发自 凹非寺量子位 报道 | 公众号 QbitAI

本年AI范畴最火的是甚么?

毫无疑问是GPT-3,它能写小说、能与人聊天、能设计网页、还能下象棋,可谓迄今为止最“万能”的AI模子。

然则这个强大年夜的AI模子却不被看做算法的成功,而是“暴力美学”、一场“富人的游戏”。

有人估算过,GPT-3光是演习成本就在460万美元以上,还不包孕微软为演习它扶植了一个5亿美元的超算中央。

微软这个超算中央装载了一万张英伟达GPU,演习GPT-3耗损了它355个GPU年的算力。

假如中国也要开辟本身的GPT-3,仰仗而今的手艺能做出来?

谜底是:我们已具有一定的前提了。

AI软件方面,国内有百度、阿里等开源框架,中国的NLP(天然措辞措置)手艺起步不算晚,甚至搜狗、第四范式、百度NLP算法已多次占有测试榜首,且成功贸易化。

演习AI的硬件中国也不缺少,甚至在国际上还略有优势。据2020年6月最新数据,中国具有全球超算Top500中的226台,占比达45.2%,逾越其他任何国度。

有算法、有硬件,那末要做出GPT-3最大年夜的障碍就是经济成本了。

由于中国少有能像微软那般“财大年夜气粗”组建一个超等算力中央,国内AI硬件又不够开放,算力得不到有用的调配和释放。

其实不然则GPT-3,即使是范围更小的AI模子,动辄破费几十甚至上百张AI加速卡,对良多企业来讲也是“不克不及承受之重”。

稀奇是比开辟GPT-3更实际的问题——AI财产化——如日中天,大年夜量利用AI硬件的场景只会更多。

对此问题的解决之道,国内最大年夜的AI处事器供应商浪潮给出的方式是:开放硬件,下降成本。

据估计,将来人工智能将占有80%以上的较量争论需求,需要有开放的AI算力中央承载这类需求,即智算中央。

智算中央:做最开放AI根本举措措施

开源这件事,在软件行业已获得了伟大年夜成功。

开源软件近二十年来为IT行业带来了革命性的转变,好比Linux、Android一举占据市场,而良多闭源操作系统日渐式微甚至灭亡。

而硬件开源在国际上才刚刚起步。

2011年,由于营业的飞速成长,国外社交收集巨头Facebook牵头创议了OCP(开放较量争论项目)。

仅仅4年时候,OCP就为Facebook节省了20亿美元的成本,数据中央电费下降了20%。谷歌、微软、IBM、阿里、浪潮都到场了该社区。

开放较量争论的优势不但仅是下降成本、节省电费、提高投资回报率,更主要的是,它作为一种新的协作模式,可以鼓动AI等前沿手艺的标准化与财产化。

在GPT-3降生前的几个月,浪潮已有了如许刷新AI财产的设法。4月9日,IPF2020浪潮云数据中央合作伙伴大年夜会上,浪潮初次提出了“智算中央”的概念。

浪潮认为,智算中央应当满足三大年夜前提:开放标准、集约高效、普适普惠。就是每家企业都能以更低门坎用上高性能较量争论资本。

当前AI硬件加速器处于各自为政的场合排场,分歧厂商的产物接口、和谈都不尽不异。

为体会决AI加速芯片的同一标准问题,让分歧加速器在同一块处事器上运行。浪潮4月推出了第一款合适OAM(OCP加速模块)标准的AI开放较量争论系统MX1,致力于鼓动开放较量争论与AI的畅通领悟。

第二点集约高效,则是在开放标准根本上的更高要求。开放标准会带来范围空前的集约效应与高效的畅通领悟架构。

畅通领悟架构的究竟目标是实现“智算中央即较量争论机”,CPU、内存、AI加速器、I/O等硬件资本完全池化,让它们在软件的同一调配下,实现超大年夜范围的扩大。

这方面,国外的AI巨头英伟达已有相当丰硕的经验,甚至本年还开源了大年夜范围并行较量争论模子“威震天”。

作为AI时期最主要的芯片公司,英伟达明显已意想到,开源不但不会伤害本身优点,反而会构成范围效应,实现全部财产的共赢。开放标准后,普适普惠是一定的后果。

畴昔十年,手机行业正是仰仗软件开放、硬件整合的能力,让通俗消费者享遭到了智妙手机普及的福利。

AI财产也在履历近似的历程,软件与硬件的开源一定会让每家意在用上AI的企业享遭到实惠。

打造算力“免费午餐”

软件开源最大年夜的实惠即“免费”,这意味着任何人都可以免费查看、点窜、利用代码,而硬件开放的实惠,是小企业也可以或许免费利用昂贵的较量争论设备运行其营业。

浪潮AI&HPC产物线总经理刘军曾说过,算力是AI时期“免费的午餐”。

回顾GPT-3的降生,它只比先辈GPT-2晚一年,比前代的参数量增加了100倍,就可以获得如此惊人的成就,靠的不是算法的晋升,而是算力的加成。

假如改良算法,一定会投入大年夜量的研发,比拟之前,算力不就是简单直接的“免费午餐”吗?

之所以企业不感觉免费,那是由于算力的成本还不够低。所以有些企业选择了市场上成熟的AI解决方案,无需AI开辟经验就可以快速布置AI模子。

刘军透露显露,对财产用户来讲,用上性价比更高的AI算力,开放的收集架构及处事是必需的,同时包管了将来的可扩大性。

就如同PC时期的组装机,每一个组件都把握在用户本身手中,在手艺上可控,定制化程度高,成本低廉。

只有硬件成本低了,算力才会成为“免费的午餐”。

浪潮智算中央已崭露头角

智算中央推出半年,浪潮智算中央的算力获得权势巨头标准承认,同时在各行各业阐扬出主要感化。

面向智算中央,浪潮提出要分娩算力、聚合算力、调剂算力、释放算力。

颠末历程自研的AI框架LMS,浪潮演习的NLP模子参数打破70亿,逾越了GPT-2三倍多。

在本年7月29日发布的全球权势巨头AI测试基准,MLPerf v0.7演习榜单上,浪潮NF5488A5处事器创下了单处事器最快性能纪录,高居榜首。

浪潮还东南大年夜学合作,据张竞慧传授介绍,东南大年夜学依托算力中央鼓动前沿科学研究,依托(CPU+Openstack+GPU)架构,供应高性能较量争论、云较量争论和人工智能较量争论等同享处事,措置太空不雅测高分说率影象,已在物理学顶级期刊PRL上颁发了多篇论文。

在金融范畴,交通银行颠末历程浪潮AIStation开辟平台,资本行使效率晋升30%;在智能制造范畴,百度与浪潮合作开辟的装配,将2~3天的钢质检系统工作量削减至2小时,辨认正确率逾越99%。

别的浪潮的智算中央与5G连络,供应了云端演习、边缘推理的新利用处景。

浪潮智算中央扶植的脚步没有停歇,今朝正在济南扶植的“中国算谷”,致力于成为全球算力财产新高地,带动山东传统企业智能化刷新和升级,企图建成E级较量争论系统。

AI时期的“发电厂”

AI模子成长前进神速,模子愈来愈大年夜,对算力要求也越高,硬件前进给算法带来福利。

OpenAI客岁的申报指出,AI较量争论量每一年增加10倍。从2012年至今,最早进AI模子对较量争论量的需求已增加了30万倍,若遵照摩尔定理,与此同时芯片算力只增加了7倍。

对算力的爆炸式一方面靠AI加速芯片的改良,别的一方面靠硬件的“暴力”堆砌。

然则单个用户难以自建强大年夜算力,则需要智算中央来帮手。将来,智算中央会像发电厂一样,产生大年夜量的算力输送到“千家万户”。

电力时期有充沛的发电量,就可以驱动更多、更强的电气举措措施。AI时期有更多低廉的算力资本,才能催生出更多像GPT-3一样“暴力”AI模子,鼓动AI的财产化。

假如中国也要研发像GPT-3一样的AI模子,用如许的AI模子驱动财产厘革,那末一定要下降算力资本的TCO。

浪潮希望在这个中阐扬主导感化,所以推出智算中央。浪潮也具有如许的底气,由于他们已占有了中国50%的AI较量争论中央算力,将来一定会是“新基建”的AI基石。

在这方面,国外已有很多先辈的经验,英特尔、微软、谷歌都在以开放的姿态畅通领悟更多新的AI硬件,把更强大年夜的算力供献给财产。

回到国内,假如浪潮能把智算中央的算力供给全行业利用,以国内复杂年夜市场,一定能催生更强大年夜AI模子的降生。

到时刻,不但能产生与GPT-3近似的AI模子,我们还会看到过更多AI手艺的贸易化,让我们的生活生计处处布满AI。

非特殊说明,本文由原创资讯网原创或收集发布。

转载请注明本文地址:http://www.acewise.org/kj/1392.html