我做的小模型,平常不需要GPU,不需要词元,通过多模态创作引擎就能写诗填词

【本文来自《深圳用昇腾910C集群完成1.6万亿参数大模型训练》评论区,标题为小编添加】

  • 观静生华
  • 本次探索是国产算力适配超大参数大模型过程中的一次重要进展,有助于提升国内AI产业链自主化水平,降低行业应用成本,为人工智能技术落地应用提供更多支撑。目前,项目已实现模型算力利用率(MFU)超过30%,关键训练算子效率提升14%,各项指标均达到工业级运行标准。

    ------------------------------

    懂的说说,

    从响应速度、准确性、稳定性、智能化的指标上来讲,能跑工业应用了吗?

我做的小模型,平常不需要GPU,不需要词元,通过多模态创作引擎就能依主题、格律风格、韵部、对仗、语意类型及自己的心境(三条件)写诗、填词( 词牌名,格式,自主想法)、出联、作词(歌词)。存储量还低,一部《民法典》全篇纯文字240KB,经过小模型处理后只有62.3KB,而且100%准确呈现。而算力则用于专用算子,用于工程计算;不需要片沥算力,只占词元40%对齐消耗。同等参数下,中文数据占用空间比词元少(13篇中文word格式文章2.63MB,通过小模型处理只用28KB磁盘空间,还能正常呈现),英文与词元持平。

站务

全部专栏