发布日期: 2025-03-04
正在人工智能飞速开展的海潮中,得一微电子(YEESTOR)今天推出了一项引人注意的显存扩展管理计划——AI-MemoryX时间。这项时间依托公司自研的存储驾驭芯片和更始型AI存储体系,使得单机的显存容量得以大幅晋升,助力DeepSeek系列的32B、70B、110B以及671B等大模子完毕了单机微调练习的梦思。这一打破为AI大模子的微调练习铺平了道道,供给了一种既壮大又经济实惠的管理计划,令繁众行业正在智能运用的鸿沟上翻开了新视野,掠夺市集先机。
跟着深度练习模子范畴的不竭扩张,显存需求变得愈发厉厉。针对显存扩展的低本钱计划,得一微电子的AI-MemoryX时间胜利解锁了超大模子微调练习的能够性。一般显卡的显存凡是正在48GB到64GB之间,但以DeepSeek70B模子为例,其微调练习所需的显存竟高达1TB至2TB,险些需求30众张显卡的维持。而关于更大的671B模子,其显存需求飙升至10TB到20TB,意味着300众张显卡的宏大加入。
得一微电子的AI-MemoryX倾覆了这一场合:通过显存扩展卡,该时间将单机显存的容量晋升到10TB,明显低浸了对GPU数目的需求。现正在,仅需1到16张显卡,配合显存扩展时间,就能高效结束DeepSeek差别尺寸的大模子(如32B、70B、110B、671B等)的微调练习,极大地鞭策了大模子正在各行业中的运用。
更令人抖擞的是,因为AI-MemoryX时间的涌现,过去需花费数百万乃至数万万的硬件扩展用度而今只需万元级别,这将促使更众企业以致片面借助有限的资源,有用地发展大范畴模子的练习与微调。
该时间不光正在扩展显存容量上赢得了打破,调动在微调本领上增加了新意。得一微电子的AI-MemoryX管理计划整合了大模子练习框架、显存扩展卡的软件栈和高效的X200系列显存扩展卡,为微调练习供给全方位的维持。
另外,得一微电子还引入了小样本监视微调、思想链微调以及加强练习微调等众种微调时间,旨正在晋升微调练习的出力,开采模子的潜力与代价,让AI时间也许特别长远地餍足差别行业的需求。
得一微电子正以此为契机,将存算时间引向新潮水,成为行业领先的芯片策画公司。面临企业级、车规级、工业级和消费级等众场景的运用,得一微电子尽力于供给量身定制的管理计划,鞭策智能运用的更始。返回搜狐,查看更众