广东首个采用国产TPU技术的智算中心,来了!
来源:证券时报网作者:周春媚2024-09-14 15:21

近日,在第五届深圳国际人工智能展(GAIE)第二届智能算力发展论坛上,中昊芯英(杭州)科技有限公司(以下简称“中昊芯英”)与中国联合网络通信有限公司深圳市分公司(以下简称“深圳联通”)联合举办了“智算基建,加速未来”高性能AI智算中心项目启动仪式,标志着双方将携手合作共同建设广东首个采用国产TPU技术的智算中心。

image.png

据了解,中昊芯英作为国内领先的TPU架构AI芯片企业,此次提供了搭载其自主研发的高性能TPU芯片“刹那®”的人工智能服务器及大规模AI计算集群系统“泰则®”,为项目搭建坚实的AI计算底座。深圳联通则凭借其强大的网络资源和丰富的运营经验,将配合政府及行业伙伴,建设针对特定行业的智算节点,预部署相应软件和模型,为社会提供智能算力服务或MaaS服务,赋能产业发展。

把TPU做成AI界的X86

在ChatGPT掀起生成式AI的浪潮以后,美国芯片公司英伟达作为“卖铲人”,凭借其 GPU 在大模型训练和推理中的出色发挥而赚得盆满钵满,其高性能的A100、H100等计算卡供不应求、价格昂贵。在AI时代,要与已在行业中深耕积累了几十年的行业龙头竞争,更务实的选择或许是另辟蹊径,寻觅新的突破口。

“我们想把TPU这个架构做成AI界的X86。”在接受记者采访时,中昊芯英创始人兼CEO杨龚轶凡表示,英特尔的X86统治了PC,CPU时代没有任何架构能够跟X86竞争,直到手机出现,ARM才分走了一部分市场份额。“我们希望TPU架构就是AI界里未来最核心的架构方式。TPU是为了AI的深度学习而设计的,它的想象力比GPU更强,虽然放弃了一些灵活性,但也获取了巨大的性能优势。”杨龚轶凡说。

针对大模型的模型训练和推理性设计,一方面,TPU软件和网络的架构和结构比GPU实现同样性能的网络架构更为简洁和简单,在软件的运维层面也会更简洁一些;另一方面,在硬件的搭载过程中,也会设计让它实现可运维,尽可能降低生产成本、运维成本,最后实现对模型的高算力的支持。

目前,英伟达虽然在高端AI芯片上占据了大多数市场份额,但谷歌、微软、亚马逊等云服务商也是AI芯片领域的重要玩家,其中谷歌TPU更是对英伟达的GPU构成了挑战。目前,国内做TPU芯片的公司并不多,中昊芯英是国内唯一掌握TPU架构AI芯片核心研发技术的公司。据了解,杨龚轶凡曾在谷歌深度参与了TPU 2/3/4的设计与研发,公司汇聚了来自谷歌、甲骨文、微软、海思等全球科技巨头的AI软硬件设计人才,在国产TPU芯片上具有较强的先发优势。

据杨龚轶凡介绍,经过近5年的积累,中昊芯英已经进入第一代产品的量产生产周期。不过,杨龚轶凡也表示,高性能芯片作为时间周期长的科技型产品,公司的TPU虽然用5年走过了“从0到1”,但“从1到100”依然需要时间。“谷歌从年产1000片芯片到今年有280万芯片的量产,花了近10年时间。我们希望在未来的3到4年内,在中昊芯英第10年的时候,也有超过百万片的芯片销售,实现超过百亿元的营收体量。”杨龚轶凡说。

为人工智能产业发展夯实算力基座

深圳作为全国科技创新的前沿阵地,一直走在人工智能产业发展的前列。据深圳联通副总经理赵桂标介绍,中昊芯英与深圳联通本次共建的智算中心是广东地区首个采用国产TPU技术的智算中心。“目前,项目第一期会部署32个智算节点,算力为50P,后期会加快扩容,扩大到千卡集群的规模,助力智算中心相关建设,成为深圳智算核心高地的重要组成部分。”赵桂标表示。

值得一提的是,该项目的优势在于算力的共享,避免单个企业因业务需求波动导致的算力闲置或不足问题,提高算力整体利用率,降低运营成本。同时,该项目将搭载联通云自研“星罗”算力管理平台,实现多元异构算力的适配和服务编排,形成“通算+智算+超算”的融合调度能力,可面向客户提供一体化的算力运营服务,也可用于企业私有化部署的智能算力网络搭建及运营管理。

深圳联通表示,此次双方合作共建的智算中心,是一个由业务需求驱动的项目。这一项目主要有两大特点,一是数、算、用一体,能够满足数算用场景,是一个训练推理一体化的项目;二是这一合作模式可复制,其他地方可以根据这个经验进行快速迭代和复制,快速建立起相关的算力中心,为企业提供训练推理一体化的算力服务。

记者了解到,在中昊芯英与深圳联通共建智算中心的这一合作模式中,双方将充分发挥各自优势,做到资源共享、能力互补、互利共赢。杨龚轶凡表示,中昊芯英作为芯片研发商,在算力集群的软件栈和硬件栈打造上具有专业优势,而深圳联通则擅长云平台的建设和导入、智算中心的建设、能耗的管理。通过合作,双方致力于将智算中心打造得可靠、好用、效率高。

人工智能产业的腾飞离不开算力的支撑。随着AIGC时代的到来,大模型训练、神经网络开发等应用场景对算力的需求日益激增。中昊芯英表示,在企业布局和市场需求的共同推动下,中昊芯英AI高性能智算中心的运营方案也正逐渐走向成熟,将成为推动产业转型升级的重要力量,为人工智能产业的发展夯实算力基座。

校对:刘星莹

责任编辑: 刘少叙
声明:证券时报力求信息真实、准确,文章提及内容仅供参考,不构成实质性投资建议,据此操作风险自担
下载“证券时报”官方APP,或关注官方微信公众号,即可随时了解股市动态,洞察政策信息,把握财富机会。
网友评论
登录后可以发言
发送
网友评论仅供其表达个人看法,并不表明证券时报立场
暂无评论
为你推荐
时报热榜
换一换
    热点视频
    换一换