2026世界人工智能大会期间,上海人工智能实验室发布了书生系列大模型Intern-S2-Preview-397B。该模型基于全新架构和预训练范式,以397B参数规模在分子设计、材料结构生成等核心科学任务上追平了此前的万亿参数模型。
面对科学智能领域长期存在的“通用认知”与“专业知识”难以兼顾的问题,Intern-S2-Preview-397B通过底层架构革新,尝试为复杂科学任务的推理构建新的基座,并与昇腾计算生态深度协同,探索从模型能力提升到国产算力基础设施优化的路径。
科学研究需要模型既“记得多”,又“想得活”。但在传统大模型中,知识存储与逻辑推理高度耦合,导致每接入一个新学科都可能扰动已有的通用能力。Intern-S2-Preview-397B将知识承载与推理计算分开设计,形成了由Memory Decoder与Mobius组成的双引擎。
Memory Decoder引入了专业领域的可插拔外部记忆,不同学科的最新知识可以在独立记忆模块中训练,并按需接入基础模型,减少对原有参数和通用能力的扰动。专业知识不再通过反复改写整个模型来“硬编码”,而是像扩展记忆一样持续更新,及时校正模型在探索未知过程中对新获知信息的理解偏差。
Mobius架构专注于基座模型的知识与推理分离,通过解耦模型内部的知识向量与推理算子,构建了全局共享知识向量库,提升了知识在层间的可复用性,同时提供了更加灵活自由的知识存取机会,使数学、物理、化学、生物等领域共同需要的分析、验证和纠错能力得以迁移复用。Mobius的设计还引入了反向残差连接机制与动态隐空间推理机制,提高了模型的端到端推理效率。
这套架构的关键在于将大模型专业化从一次性的整体改造转变为可持续的能力生长,基础模型负责稳定的通用理解与推理,专业记忆承载不断演进的学科知识,推理算子则在不同任务之间复用。这种分工协作模式为“引入专业知识而不牺牲基础能力”提供了新的实现路径。
AI技术在2024年的手机市场中备受关注,不少新机都将AI作为主要卖点。随着新一代芯片的推出,手机AI算力再次提升,厂商们加大了在AI领域的布局
2024-10-31 09:38:08荣耀Magic7的AI新体验恒温泳池、多功能球馆、有氧无氧健身区、操课教室……日前,阿尔及利亚首都阿尔及尔东方商业广场运动馆举行“云开放”活动,通过多个社交媒体平台带领观众“云体验”当地最大的综合性运动场馆
2020-12-29 05:51:01聚焦媒体融合真实生态,梳理媒体融新特征,全景描述国内外创新实践,为媒体融合发展的谋划者、组织者、实践者提供参考和借鉴
2020-09-24 09:48:58媒体融合