虎科技
业界资讯 手机产品 数码产品 移动互联 软件产品 智能汽车 生活家电 关于我们

训推一体机非AI Infra未来?清程极智CEO汤雄超这样说

2024-10-16来源:ITBEAR编辑:瑞雪

在超算时代,清华大学高性能计算研究中心便以解决算力需求相关软件问题而著称。如今,随着AI技术的迅猛发展,这一经验被应用到新的领域。清程极智,一家由清华大学计算机系团队创办的初创企业,正致力于解决AI Infra领域的挑战。

清程极智的核心团队拥有丰富的超大规模国产算力集群使用和优化经验,这是目前国内AI Infra赛道中少有的技术优势。据汤雄超博士介绍,他们是国内唯一有过十万台服务器规模的国产算力集群调优经验的团队。

汤雄超在清程极智办公室

清程极智不仅关注AI训练面临的挑战,还看到了推理侧的机会。汤雄超认为,训推一体机难以满足未来的全部AI业务需求,因为训练和推理两种业务对算力系统的需求差异较大。因此,清程极智选择为推理业务量身定制软硬件一体化的算力系统,并通过云端算力提供MaaS大模型推理服务。

对于与云厂商的竞争,汤雄超表示,大模型应用市场前景广阔,足以容纳多家厂商。他认为,云厂商过去聚焦于资源池化和共享,而现在需要解决的问题是分布式的资源合并,这正是清程极智团队的优势所在。

在商业化方面,清程极智已经与多家芯片厂商、算力中心、AI应用开发商以及基础模型预训练厂商达成了合作。同时,他们也在与云厂商合作,提供兼容和赋能多样化算力基座的服务。

清程极智 MaaS 平台

汤雄超还表示,他们对国产芯片市场的发展充满信心。他认为,随着国产芯片性价比的提升,未来国产芯片市场会有一定程度的收敛,但不会完全集中到一家厂商。而清程极智的技术和服务,正是为了助力国产算力生态的发展。

在谈到MaaS平台时,汤雄超表示,他们不仅提供大模型API的服务,还通过自研的推理引擎提升模型推理的性能。他们的MaaS平台支持多种芯片,包括英伟达和国产算力平台。而他们的目标,是让更多有需求的人使用到清程的推理加速能力。

对于未来,汤雄超表示,他们将继续致力于AI Infra领域的技术创新和商业化应用。他们相信,随着AI技术的不断发展,他们的技术和服务将在更多领域得到应用和推广。

清程极智团队成员

在谈到国产芯片厂商的竞争和合作时,汤雄超表示,他们与多家国产芯片厂商都有合作,并认为未来国产芯片市场可能会出现一定程度的集中和收敛,但不太可能出现一家独大的情况。他们将继续与国产芯片厂商合作,共同推动国产算力生态的发展。

最后,对于GPU是否是算力的最优解,汤雄超表示,这取决于上层应用的需求和算法的发展。他认为,如果AI算法发生巨变,可能会导致新的芯片架构的出现。但目前来看,GPU或类GPU架构仍然是较好的选择。

比亚迪海洋网销量破350万,全新MPV车型即将震撼登场!
鞭牛士11月1日,比亚迪海洋三周年暨首届用户盛典在深圳坪山举行。海洋网销售事业部总经理张卓宣布,成立三年来,比亚迪海洋网累计销售已超过350万辆。未来,海洋网也将推出全新IP,打造新款MPV车型。…

2024-11-01

吉利新能源大爆发!月销首破10万台,同比环比双双飙升!
快科技11月1日消息,吉利汽车集团发布了10月新能源汽车销量数据,包括吉利银河、极氪、领克在内的三大品牌单月总销量首次突破10万辆,创下历史新高。数据显示,吉利汽车10月新能源销量为108722辆,环比增长超…

2024-11-01

比亚迪销量爆棚!10月狂卖50万辆,六款车型破5万大关!
快科技11月1日消息,今晚,比亚迪发布了一份令人瞩目的销售报告:10月销量突破50万大关,达到500,526辆,创下历史新高!具体来看,比亚迪王朝系列贡献了251,090辆,海洋系列紧随其后,售出229,75…

2024-11-01

比亚迪销量飙升!10月首破50万辆,超4年前全年总和!
快科技11月1日消息,比亚迪今日公布了10月销量,比亚迪10月共销售502657辆新车,首次突破50万辆大关,再创中国车企及全球新能源车企月销纪录。作为对比,比亚迪10月份单月销量,已经超过比亚迪2020年4…

2024-11-01

深蓝汽车10月交付量猛增,同比大涨79.6%,新势力崛起!
鞭牛士11月1日消息,深蓝汽车宣布,10月交付27862辆,同比增长79.6%。此外,深蓝汽车10月全系订单36277辆,新车S05上市10天订单超10000辆并开启大规模交付。…

2024-11-01

长安启源销量飙升!10月突破18000辆,新能源汽车市场再掀波澜
11月1日消息,长安汽车旗下品牌“长安启源”今日发布公告,2024年10月销量突破18000辆,一周年累计销量突破15万辆。长安启源目前包括A07、A05、Q05、E07四款车型,主打纯电和增程路线。…

2024-11-01