苹果推出换代AI大模型MM1.5 拥有自然语言推理
AI大潮下,苹果科技巨头苹果公司日前推出了300亿参数的推出多模态AI大模型MM1.5,该版本是换代在前代MM1的架构基础上发展而来的。
该模型继续遵循数据驱动的大模训练原则,着重探究在不同训练周期中混合各类数据对模型性能产生的拥有自言推影响,相关模型文档已在Hugging Face上发布。然语
MM1.5提供了从10亿到300亿的苹果多种参数规模,拥有图像识别和自然语言推理能力。推出
在新版本中,换代苹果公司的大模研发人员改进了数据混合策略,极大地增强了模型在多文本图像理解、拥有自言推视觉引用与定位以及多图像推理等方面的然语能力。
参考论文可知,苹果团队在MM1.5的推出持续预训练阶段引入了高质量的OCR数据和合成图像描述,这显著提高了模型对包含大量文本的换代图像的理解水平。
此外,研究人员在监督式微调阶段深入分析了不同数据类型对模型表现的作用,优化了视觉指令微调数据的混合方式,使得即便是小规模的模型(如10亿、30亿参数版本)也能有出色的发挥,实现了更高的效率。
值得一提的是,苹果公司这次还推出了专门用于视频理解的MM1.5-Video模型和专门处理移动设备用户界面(UI)理解的MM1.5-UI模型。
其中,MM1.5-UI模型未来有望成为iOS背后的“苹果牌”AI,能够处理各种视觉引用与定位任务,还能总结屏幕上的功能,或者通过与用户的对话进行交互。
尽管MM1.5模型在多项基准测试中表现优异,但苹果团队仍计划通过进一步融合文本、图像和用户交互数据,并设计更复杂的架构,来提升模型对移动设备UI的理解能力,从而让“苹果牌”AI更强大。
相关文章:
- 西媒:巴萨会与佩德里至少续约到2030年,德容很可能会离队
- 网红王境泽自爆:斗鱼签约费曾高达1500万 对真香ptsd
- 199元!特斯拉Bot人形机器人开售即抢光:二手平台溢价超百元
- [流言板]帕尔默2024英超已参与39球,联赛最多&超越去年的哈兰德
- 比亚迪首批电动皮卡SHARK已从中国发运:明年1月于澳大利亚交付
- [流言板]库尼亚反击横传,黄喜灿轻松推射破门!狼队锁定胜局!
- 格力申请注册“格力好强”商标 董明珠:不用格力是傻瓜
- 微星新款31.5寸显示器发布:4K 240Hz屏、配DP 2.1接口
- 德弗里:我的未来由国米决定,有权优先续约一年&我在国米很开心
- 2024年度央企十大国之重器投票:歼35A、华为打造700亿参数大模型入围