新闻
开yun体育网也成为了一直以来国际公认的至强主流阶梯-kaiyun(欧洲杯)app-kaiyun欧洲杯app(中国)官方网站-登录入口

科技界的开年王炸开yun体育网,最强显卡官宣已有几天。
这一炸,响彻声于今仍持续于耳。

在发布会上,黄雇主举起了自家显卡,复刻了“好意思国队长”的经典pose。
这一刻仿佛在问全全国:Who is the real caption America?
英伟达为何有如斯“大帝之姿”?不仅是因为其大致精确捕捉到期间的一次次发展动向,更关节的是建立了CUDA生态护城河,不错说“英伟达因CUDA而得寰宇”,CUDA的降生也让无数开导者不错狂放诳骗GPU进行高效的计较任务。
而真实让英伟达进阶成据说的,是V100、A00、H100、H200等产物系列,它们将GPGPU的高密度并行计较功能意见不休大幅升迁。GPGPU,也成为了一直以来国际公认的至强主流阶梯。
但科技是变化的,是上前的,期间的急流会在特定的时刻内催生出新的技巧与趋势。
跟着AI期间的不休演进,ASIC芯片(专用定制芯片)强势崛起。依靠ASIC,博通市值打破1万亿好意思元,Marvell市值初度打破1000亿好意思元。以致有音讯称,英伟达或已成立了ASIC部门,正在到处挖掘ASIC东谈主才。
ASIC不仅在海外发展赶快,纵不雅国内,海想、等企业也纷纷乘着ASIC快车,取得配置。当今占据国内较高商场份额的,等于某大厂的国产ASIC(NPU)芯片。且进程万古刻的宣传,公论表里似乎王人觉得只消其才具备与海外抗衡的实力。
国产ASIC 挑战GPGPU
短期来看,ASIC的异军突起,无疑给AI算力芯片疆土带来了新的变局,ASIC芯片如故被视为当今挑战GPU的一股不行残暴的力量,但恒久发展来看,GPGPU阶梯的跳跃地位照旧不算作摇。其中领有“AI、GPGPU、全精度才气、兼容CUDA、生态上风”等这些利器的GPGPU芯片巨头海光信息,无疑是在国内证实最为凸起的一个,但业内对此了解度浩荡不够。
为深度了解GPGPU阶梯与ASIC各异,业内东谈主士将国内跳跃的某NPU(ASIC架构)与海光的DCU系列(GPGPU架构),在AI照看器领域最为迫切的生态兼容及精度方面,进行了一番对比。

1、生态缔造
海光DCU:海光DCU提供的自主绽开无缺软件栈“DTK”,大致全面兼容“类CUDA”生态,且与国表里主流大模子适配细腻,依托DCU不错已矣LLaMa、GPT、Bloom、ChatGLM、悟谈、紫东元始等为代表的大模子的全面应用,已矣了“训推一体”的AI场景全笼罩。且海光DCU领有多样异构库、第三方厂商等的解救,如故酿成了稀疏完善的异构软件生态。
在基于GPGPU架构的海光DCU之上,多样主流算法与模子不错作念到“径直跑”,大致进行低本钱快速适配,幸免了后续的BUG关注问题,从生态缔造上来讲,海光DCU如故达到国内跳跃水平。
国产NPU:NPU硬件性能诚然强悍,但生态系统相对比拟局限,开导者可选的用具与框架选定较少,且在试验应用中,好多AI应用并未针对NPU的架构进行优化,而是依赖于通用的软件库和用具,导致NPU的软件生态相对较弱,启动后果不高,兼容性较差。
2、行业通用性和适用性
海光DCU:不仅适用于AI领域,还不错用于其他计较密集型任务,如大规模数据集的科学和工程计较等,具有更庸俗的应用远景和商场需求,当今海光DCU产物被庸俗应用于大数据照看、东谈主工智能、交易计较等应用场景。
国产NPU:主要专注于神经收集的加快,用于AI教师和推理计较,适用于视频、图像类的海量多媒体数据,不触及高精度算力应用的领域,触及领域比拟单一。
3、精度计较
海光DCU:基于GPGPU架构,海光DCU具备全精度浮点数据和多样常见整型数据计较才气,领有大规模并行计较的才气,大致履行更庸俗的通用计较任务,快速开导高能效的应用格局,稀疏合乎于照看AI计较中无数的矩阵运算任务。
国产NPU:国产NPU属于定制型芯片,专为深度学习和东谈主工智能任务盘算的专用照看器,适用范围有限,在神经收集推理阶段,时时使用低精度计较用来升迁计较后果。
抹除信息差,对比出真知
要而论之,咱们不错得知,海光DCU在生态上的上风较为凸起,对“类CUDA”等主流生态的兼容才气更强,在与国际主流大模子教师标的展和适配才气上证实更佳,还知足了全场景多精度计较需求,凭借细腻的适配性,大大镌汰了用户的挪动本钱,在各大领域的卑鄙商场中取得了极高的招供度,与百度、阿里等头部互联网厂商酿成了多个标杆案例。
国产NPU方面,尽管其在多精度等通用计较才气无法通盘笼罩,且当今的生态具有一定的局限性,但在一些特定领域的证实,如神经收集推理方面,依然值得详情。
终末想说的是,海光DCU当今的发展标的,与我国“六代机”及高铁基本一致,走的是纯国产高端技巧阶梯,但鲜有东谈主知其好在那处,还有东谈主拿着“F22”与其类比。我想,亦然时候应该让群众知谈,好东西的圭臬到底是什么,以及咱们简直不缺这种好东西。
