蚂蚁百灵大模型团队近日宣布,正式开源两款具备高效思考能力的新型模型:Ring-flash-linear-2.0与Ring-mini-linear-2.0,同时推出两项自研高性能融合算子——FP8融合算子和线性Attention推理融合算子,致力于实现“大参数、低激活”的极致推理效率,并全面支持超长上下文处理。据团队介绍,通过架构层面的深度优化与高性能算子的协同设计,这两款新模型在复杂推理任务中的推理成本大幅降低,仅为同等规模Dense模型的十分之一,相比前代Ring系列模型,推理开销也减少了50...
蚂蚁百灵大模型团队近日宣布,正式开源两款具备高效思考能力的新型模型:ring-flash-linear-2.0 与 ring-mini-linear-2.0,同时推出两项自研高性能融合算子

——fp8融合算子和线性attention推理融合算子,致力于实现“大参数、低激活”的极致推理效率,并全面支持超长上下文处理。
据团队介绍,通过架构层面的深度优化与高性能算子的协同设计,这两款新模型在复杂推理任务中的推理成本大幅降低,仅为同等规模Dense模型的十分之一,相比前代Ring系列模型,推理开销也减少了50%以上。
得益于训练与推理引擎在算子级别的高度对齐,模型可在强化学习过程中实现长时间、高稳定性且高效的迭代优化,在多个高难度推理基准测试中持续保持领先水平,稳居SOTA行列。
目前,两款模型均已开放源代码,具体开源地址如下:
Ring-flash-linear-2.0Hugging Face:https://www./link/df3533caf8f1bedde6a6633d90819e82
ModelScope:https://www./link/e3036fb3e0fd60ba20772f6325fa8f60Ring-mini-linear-2.0Hugging Face:https://www./link/e1b0e6b958ea38f4dae5f9d24730ef05
ModelScope:https://www./link/e6c439226a0bde3e060ac5ce39b7d0f2
相关推荐:
Chat8免费版在线网页:开启智能对话新时代,ros和ai
ChatGPT免费版下载:智能对话助手带来的全新体验,ps和ai做排版
AI办公软件排名:2024年最强智能办公工具推荐,ai 打散路径
SEO优化学习:让你的网站在搜索引擎中脱颖而出
全平台自动发布,助力品牌营销全面升级,ai人形轨迹
AI写作在线制作:解放创意,提升写作效率的全新体验
大数据截流:洞察数据浪潮,抢占市场先机,亮子AI
Emlog付费文章,让你轻松变现,打造内容创作新机遇,科学幻想ai
企业app软件外包开发的几个常见问题
如何做SEO关键词优化:让网站排名更上一层楼,AI周杰
360AI写作怎样?助力创作的新风尚,ai能否打开tpk文件
SEO实现:如何通过SEO优化提升网站流量与排名,南京市公司网站推广
SEO关键词比较少的文章如何写?提升内容质量的秘诀,ai王飞
广告推广的基本形式和推广特点分析
SEO内容自动生成:让网站流量暴增的秘密武器,alllink ai
“GPT4.0下载:开启智能未来,无限可能”,ps保存为ai格式路径
OpenAI:引领未来人工智能革命,改变世界的力量,医疗图像ai
SEO公司哪家好?选择优质SEO服务,助力企业数字化转型,囚禁之ai斐然斐城
域名注册扫描:如何保护您的在线品牌安全,小微智能写作ai写开题可靠吗
ChatGPT网页版免费版:开启智能对话的全新体验
SEO关键词优化策略:助力网站排名与流量增长,欧式梦幻ai
什么是AI工具?让你领先一步的智能助手,彩色鹦鹉ai
如何辨别一篇论文是否具备原创性?五大核心要素告诉你真相,创作工厂ai写作
AI免费生成文字,打造创作新时代
ChatGPT无法加载?检查您的网络设置并尝试重启Chat,法律文书ai写作app
SEO优化怎样?让你的网站脱颖而出!
开发App的5个基本步骤
SEO可以改变你的商业未来:如何通过优化提升网站流量和转化率,五粮液营销推广
SEO优化技巧如何提高网站排名,轻松打造高效SEO策略
域名站点历史标题查询:让您的网站优化更精准,发展更顺畅,ai字体转弯