中电九天创新性微调方法突破大模型显存瓶颈

发布日期: 2025-04-27

  正在人工智能技巧瞬息万变的海潮中,中电九天智能科技有限公司于2024年11月申请了一项颇具前瞻性的专利,名为“一种基于LoRA-MoE的大模子微调手腕、体系、筑立及介质”。遵循邦度学问产权局的公示,此专利的公然号为CN119622332A,旨正在为大模子微调的显存损耗题目供给新解。

  大模子微调不停是人工智能规模中的一颗绊脚石,它不只需求宏伟的显存,还通常因参数题目导致恶果不佳。然而,中电九天通过将LoRA技巧与MoE(羼杂专家)架构强强联手,提出了一种更始手腕,应用更小的参数举办微调,同时巩固模子的泛化材干。云云的维系不只消重了显存损耗,还能有用晋升微调的恶果,为大模子的繁荣注入了一针强心剂。

  遵循天眼查的数据,中电九天建树于2016年,总部位于成都,注册资金超6000万,一心于软件和音信技巧任职。公司近年来活泼于各式招投标项目,共列入177次,显示了其好手业内的影响力与生气。另日,跟着这项专利的促进,咱们有起因笃信,中电九天正在大模子微调规模将引颈一股新潮水,消重加入本钱而抬高技巧收获,让AI走得更远更稳。返回搜狐,查看更众