发布日期: 2025-03-08
正在不日的科技舞台上,得一微电子(YEESTOR)带来了一场倾覆性的公布:他们推出了集成AI-MemoryX技能的显存扩展计划。这项革命性技能不但加强了单机的显存容量,更为DeepSeek系列的重大模子(32B、70B、110B、671B等)告竣了微调磨练的不妨性,因而正在AI大模子微调的规模内掀起了轩然大波。
群众不妨会问,显存扩展和AI模子微调的相闭是什么?大略来说,机械进修中的显存容量尤为要害!目前可用的GPU显存容量亏欠以赞成磨练超大模子的需求,现有的训推一体机往往只可继承小型模子的微调,像是7B、14B等小打小闹的模子。而得一微的AI-MemoryX显存扩展卡则将超大模子的门槛推至新高,不但能够赞成高达110B(以至671B)的磨练职责,况且还以极低的本钱让这一技能走入公众视野。
让咱们来看看这项技能怎样得胜冲破显存瓶颈,解锁了单机微调磨练的新格式。你能联念吗?为了微调DeepSeek的70B模子,蓝本必要动用上百张显卡,而方今,正在AI-MemoryX技能的助助下,用户只需1到16张显卡便能杀青磨练!得益于这项技能的更始,显存容量能够从守旧显卡的几十GB提拔至10TB,告竣了真正意思上的单机微调磨练。
更为首要的是,得一微推出的AI-MemoryX治理计划可谓是一整套编制,涵盖了不但仅是显存扩展卡,还包罗完好的磨练框架和软件栈。这整个使得从企业级利用到部分开采者都能轻松享用大模子时间的盈利。
其余,该技能还倡始高效的监视微妥洽加强进修微调措施,着眼于怎样通过少量高质料数据提拔模子本能。对付行业利用,这意味着即使数据不众,咱们也能将模子的智能潜力最大化,减省开支的同时普及成果。
总之,得一微通过AI-MemoryX技能,不但仅是正在出卖一种产物,更是正在饱动一共AI行业的生长,助助各行各业正在智能利用的海潮中抢占先机。这是一次技能的冲破,也是大模子微调利用落地的转动点。另日,跟着这一技能的普及,更众企业和部分将得以以有限资源高效发展大周围的模子磨练,与此同时,也为一共科技家产的角逐式样带来了全新的不妨性。疾来闭怀咱们,第暂时间领会更众AI规模的最新动态!返回搜狐,查看更众