首次开源材料晶体结构生成:40% 通过率吊打 GPT-5.5 的技术拆解
【免费下载链接】Intern-S2-397B项目地址: https://ai.gitcode.com/InternLM/Intern-S2-397B
材料科学的智能计算,长期卡在"最后一公里":模型能读懂论文、能推理化学性质,却写不出一行能通过晶体学校验的结构描述。直到上海 AI 实验室开源 Intern-S2-397B,首次在开源通用大模型中实现了材料晶体结构生成——MolecularIQ 评测拿下 57.26 分,超越 Gemini-3.1-Pro;结构生成通过率超过 40%,显著优于 GPT-5.5。本文结合仓库源码,拆解这项能力背后的任务难度、评测口径与工程实现。
晶体结构生成,为什么是通用大模型的"禁区"
把"生成一个晶体结构"抽象成模型任务,它同时踩中了三类 LLM 的天然短板。
第一,坐标回归是连续数值输出。一个晶体结构由晶胞参数(a、b、c、α、β、γ)、空间群与原子分数坐标共同定义。模型需要在文本流中精确输出小数点后多位的坐标值——这是典型的回归任务,而通用语言模型以离散 token 预测为本职,任何一位数值的漂移都会让结构在物理上失真。社区情报将这一能力概括为"支持高精度坐标回归",恰恰点中了要害。
第二,对称性与物理约束叠加。有效晶体必须满足空间群对称性、原子占位化学合理性、晶胞内原子不重叠、能量处于可接受范围等条件。生成结果需要可解析、可复现(如转成 CIF 格式后被晶体学工具直接读取),这对"自由文本生成"的通用模型近乎是三重叠加的硬约束。
第三,验证即筛选。结构生成通常以"通过率"衡量——生成样本能被下游工具成功解析并通过合理性校验的比例。在这一指标下,闭源前沿模型 GPT-5.5 的表现仍远低于 40% 的及格线,而 Intern-S2-397B 做到了"超 40% 通过率"。这不是措辞上的领先,而是从"偶尔蒙对"到"稳定可用"的质变。
57.26 分评测拆解:MolecularIQ 超越 Gemini-3.1-Pro
MolecularIQ 是一套聚焦分子与材料任务的科学推理评测体系,覆盖分子结构理解、性质推理与结构生成等多类子任务。Intern-S2-397B 以 57.26 分的成绩在该评测中超越 Gemini-3.1-Pro,同时保持开源模型中的领先身位——这意味着此前只能由闭源旗舰模型触达的科学推理水平,如今在可本地部署的开源权重上即可复现。
值得强调的是,这一成绩来自仓库中标注为"most capable multimodal foundation model for scientific intelligence"的 Intern-S2-397B(见 README.md 的 Introduction 部分)。其科学能力并非单一评测的偶然爆发,而是三条扩展轴共同作用的结果:预训练规模、强化学习任务覆盖、交互式智能体环境。
源码级拆解:Intern-S2-397B 凭什么做到
1. 科学 RL 任务扩展:20+ 域联合训练
README.md 中明确写道:模型"scaling diverse scientific reinforcement-learning tasks across more than 20 domains and training them jointly",在生物分子相互作用设计与材料结构生成等专业任务上取得强结果。晶体结构生成不是事后"打补丁"学会的技能,而是从预训练阶段就与分子、蛋白、时序等科学模态共同建模、再由强化学习任务大规模扩展固化下来的能力。
2. 科学模态专用 tokenizer:从"写字符串"到"写结构"
这是仓库中最直观的源码证据。项目根目录下并存着三套独立的 SentencePiece 模型——tokenizer_SMILES.model、tokenizer_PROT.model、tokenizer_XNA.model,分别服务分子(SMILES)、蛋白(PROT)与核酸(XNA)序列。在 tokenization_interns1.py 中,这三套 tokenizer 被统一挂载进InternS1Tokenizer:
- 遇到
<SMILES>、<PROT>、<XNA>引导符时,tokenizer 自动切换到对应领域子模型,将整段科学序列按化学/生物语法切分,而不是被通用 BPE 打散; - 无引导符的裸序列则由
SmilesCheckModule、ProtCheckModule、XnaCheckModule三套检测模块以正则与语法规则自动识别(<SMILES_AUTO_DETECT>等瞬态标记); - 其中
SmilesCheckModule在安装 RDKit 时会调用Chem.MolFromSmiles做真正的化学合法性校验(check_legitimacy_slow),否则回退到环计数、括号配对等硬规则校验(check_legitimacy_fast)。
这一设计意味着模型在训练与推理时看到的分子/晶体描述,是按化学语法切分的专用 token 序列,而非被自然语言分词器肢解的乱码。序列级表示被显著压缩,长程依赖(如晶胞参数与坐标的对应关系)更容易被模型捕捉——这正是"结构生成"从不可能变为可能的基础设施级改动。
3. 稀疏激活 MoE 与高吞吐推理
在 config.json 中可以看到 Intern-S2-397B 的架构细节:num_hidden_layers为 60,hidden_size4096,num_experts高达512,而每 token 仅激活num_experts_per_tok= 10 个专家,配合shared_expert_intermediate_size共享专家。稀疏激活让 397B 量级的总参数在推理时只计算一小部分路径,是"大参数容量 + 可控推理成本"的关键平衡点。按权重索引文件估算,模型总参数量约 403B(bfloat16 存储),实际每次前向的激活参数远小于此。
推理侧,deployment_guide.md 给出了三套推理框架(LMDeploy、vLLM、SGLang)的完整部署配置,其中 MTP(Multi-Token Prediction)推测解码把单层mtp_num_hidden_layers的草稿头接入服务端:社区实测在 8×H200 上输出长度达 16000 时吞吐接近翻倍、延迟降低约 61%。长上下文方面,模型原生支持 262144(256K)位置编码,配合 YaRN 可扩展到 512K 甚至更长——科学智能体需要反复读取文献、生成结构再自我校验的长链路,长上下文与低延迟缺一不可。
4. 多模态、工具调用与"可复核"闭环
晶体结构生成要真正落地科研工作流,模型还必须能"边做边查"。chat_template.jinja 定义了包含<|vision_start|><|image_pad|><|vision_end|>图像占位与<|ts|><TS_CONTEXT><|/ts|>时序占位的多模态对话模板;README.md 展示了基于 OpenAI 兼容协议的工具调用(Tool Calling)与思考/非思考模式切换(enable_thinking),以及 LMDeploy 独有的时间序列检测与预测能力。生成结构 → 调用工具校验 → 修正坐标的自洽循环,是"通过率"从评测指标走向工程可用性的最后一环。
对材料计算科研的实用价值
把上述能力放到材料研发的真实链条中,价值立刻具象化:
高通量候选生成。传统材料筛选依赖 DFT 等第一性原理计算逐候选评估,而结构生成模型可以低成本产出大量初筛候选,再交给 DFT/分子动力学做精算验证,"粗筛 + 精算"的组合能显著压缩计算预算。
可解析可复现。超 40% 的通过率意味着生成结果的解析成功率已具备工程可用性,配合专用 tokenizer 的合法性校验,模型的输出可以被材料学工具链直接消费,而不是需要人工逐条修复的"废稿"。
本地化与数据主权。模型以 Apache-2.0 协议开源,LICENSE 明确允许商用与本地部署。对于材料、医药等涉及敏感数据与知识产权的研究机构,可以在自有集群上完成推理闭环,无需将结构数据外送闭源 API——这是闭源竞品难以提供的合规空间。
长程智能体化。从 README.md 的 Agent Integration 章节可见,模型可无缝接入 OpenClaw、Hermes、Claude Code 等智能体框架,意味着"读文献 → 提出候选结构 → 生成 CIF → 调用工具校验"可以被编排成一个自主完成的科研 Agent 流水线。
小结
Intern-S2-397B 之所以能"首次开源实现材料晶体结构生成",并非某一项技术的单点突破,而是一套组合拳:科学模态专用 tokenizer 解决表示层问题,20+ 域 RL 任务扩展固化生成能力,稀疏 MoE + MTP 解决 397B 模型的实用推理成本,多模态与工具调用闭环保证结果可复核。57.26 分的 MolecularIQ 成绩与超 40% 的结构生成通过率,是这套组合在真实科学评测上的收敛结果——也为开源科学 AI 划下了一条新的能力分界线:结构生成,从此不再是大模型的禁区。
【免费下载链接】Intern-S2-397B项目地址: https://ai.gitcode.com/InternLM/Intern-S2-397B
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考