加速原生创新，智谱携手昇腾、昇思打造自主创新原生模型

2024年8月19日，北京人工智能生态大会在中关村国家自主创新示范区会议中心颐和厅成功召开。智谱CEO张鹏作专题分享，简要介绍了昇腾对自主创新的智谱大模型的助力，以及正在打造的基于昇腾的第四代代码模型CodeGeeX4和多模态模型CogVLM2-video，华为昇腾计算业务副总裁刘鑫介绍昇腾原生进展。A0k28资讯网——每日最新资讯28at.com

智谱代码生成大模型CodeGeeX4的新版本基于昇腾AI与昇思AI框架训练，依托昇腾与昇思的多维混合分布式并行技术等软硬件能力等，将大幅提升模型开发、训练的效率及模型精度。A0k28资讯网——每日最新资讯28at.com

智谱CEO 张鹏A0k28资讯网——每日最新资讯28at.com

华为昇腾计算业务副总裁 刘鑫A0k28资讯网——每日最新资讯28at.com

模型能力A0k28资讯网——每日最新资讯28at.com

1.代码生成大模型CodeGeeX4A0k28资讯网——每日最新资讯28at.com

第四代代码模型CodeGeeX4堪称代码生成大模型的“六边形战士”，已经发布的CodeGeeX4-ALL-9B仅用百亿级参数实现模型精度超越业界主流产品。在NaturalCodebench等测试基准上，相对于更大的模型实现了性能反超。A0k28资讯网——每日最新资讯28at.com

CodeGeeX4单一模型实现编程开发全流程覆盖，包括需求设计、前端开发、后端开发、数据处理等场景，支持代码补全和生成、代码问答、代码解释器、工具调用、联网搜索、项目级代码问答等全面能力。模型长序列达128K，支持中文、英文、俄语、法语、西班牙语等20+自然语言和300+编程语言。同时，在模型推理可实现单卡部署，最低24GB显存即可进行量化推理，用户可在本地私有化部署，保护企业代码安全。A0k28资讯网——每日最新资讯28at.com

2.多模态大模型CogVLM2-video（视频生成文本）A0k28资讯网——每日最新资讯28at.com

多模态大模型CogVLM2-video实现视频生成文本能力，支持2K序列长度、224×224分辨率的视频理解以及中英文回答等功能。测试实践显示，CogVLM2-video在多个视频问答任务上达到了state-of-the-artSOTA模型)的性能，并能够实现一分钟内的视频理解，在几个主流性能测试数据集(MVBench, VideoChatGPT-Bench and Zero-shotVideoQA datasets)中，CogVLM2-video也表现不俗，展现出全面竞争力，同时在多类主要指标上完成对其他模型的领先。A0k28资讯网——每日最新资讯28at.com

基于昇腾与昇思的新版本CodeGeeX4A0k28资讯网——每日最新资讯28at.com

CodeGeeX4在训练过程中，调用昇腾原生的融合算子，利用昇思MindSporeAI框架的提供的多维混合分布式并行能力，通过对流水交织并行、tensor模型并行的优化，解决内存瓶颈、降低计算空泡、提升通信效率，实现“计算、网络、存储”协同优化，对比同等规模参数的模型，训练效率20%提升，加速模型的迭代创新。A0k28资讯网——每日最新资讯28at.com

该模型也采用MindSpore2.3版本原创的多级编译技术，开启O1编译选项增加自动算子融合优化，以接近动态图的启动时间获取了图模式下接近理论值的内存复用率，进而降低重计算比例，相对动态图获得15%的性能收益。A0k28资讯网——每日最新资讯28at.com

未来，智谱将与昇腾AI持续携手，打造更多领先的自主创新大模型，加速人工智能产业发展，助力中国千行百业的智能化转型，共同迈向智能新世界。A0k28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-16-109092-0.html加速原生创新，智谱携手昇腾、昇思打造自主创新原生模型

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 境外险：“先救后赔”无上限，这款出国保险的服务有多逆天？_平安24境外旅游险

下一篇： 撷发科技"AI软件平台解决方案"获文晔科技采用，助联发科工业物联网AI边缘装置