Appearance
把机器学习、生成模型、图神经网络、Transformer、知识蒸馏/融合、物理先验、医学/材料/蛋白质领域先验结合起来,解决科学与医学中的结构预测、性质预测、生成设计、分割泛化问题。
晶体材料 AI:结构感知的材料性质预测与预训练
更具体一点:
研究周期性晶体结构表示如何影响小数据材料性质预测。
这个切口连接了:
- 图神经网络;
- Transformer;
- 3D 几何;
- 周期性边界;
- 自监督预训练;
- AI for materials discovery;
- 科学机器学习;
- 多模态/结构化表示学习。
也适合逐步升级:
| 阶段 | 目标 |
|---|---|
| 1 | 复现 CGCNN / MEGNet / ALIGNN / Matformer |
| 2 | 跑 MatBench / Materials Project 小任务 |
| 3 | 分析不同结构表示的优劣 |
| 4 | 加入自监督任务:mask atom、denoise position、lattice perturbation |
| 5 | 做一个 clean repo + report |
| 6 | 尝试写 workshop paper / arXiv report |
一个好的小切口应满足的形式
你最后应该把问题压缩成这种格式:
对于 某类对象,在 某个数据集 上,解决 某个可度量任务,通过 一个明确技术假设,比 若干 baseline 更好。
例如:
对于无机晶体结构,在 MatBench/JARVIS 的 band gap 和 formation energy 任务上,研究周期性感知位置编码与去噪预训练是否能提升小样本性质预测性能,相比 CGCNN、MEGNet、ALIGNN、Matformer 进行系统比较。
这就是一个合格切口。
它有:
- 对象:无机晶体;
- 数据:MatBench / JARVIS;
- 任务:性质预测;
- 方法:周期性感知位置编码 + 去噪预训练;
- baseline:CGCNN、MEGNet、ALIGNN、Matformer;
- 指标:MAE / RMSE;
- 产出:代码、实验表格、消融、博客、报告。
判断一个切口是否太大
下面这些说法都太大:
- “做 AI for Materials”
- “做多模态大模型”
- “做 AI4Science”
- “做科学发现 Agent”
- “做医学 AI”
- “做蛋白质设计”
改成这样才够小:
- “晶体结构到 band gap 预测”
- “低数据材料性质预测中的去噪预训练”
- “医学分割模型在跨数据集视网膜血管分割中的失效分析”
- “蛋白质 multi-motif scaffolding 的几何扩散模型复现”
- “论文图表问答中的表格-图像一致性检查”
切口建议
可以按这个顺序切:
第一个切口:晶体结构性质预测
目标:建立 AI4Science 的基本研究能力。
产出:
- 复现 2 到 4 个 baseline;
- 做统一 benchmark;
- 写一篇长技术报告;
- 做一个可运行 repo。
第二个切口:晶体自监督预训练
目标:从复现走向小创新。
产出:
- mask atom;
- denoise coordinates;
- lattice perturbation;
- small-data fine-tuning;
- ablation study。
第三个切口:材料多模态
目标:连接你的 multimodal 主线。
产出:
- formula + structure + text embedding;
- materials instruction data;
- property prediction / retrieval / explanation;
- 可做成更强的研究作品。
晶体材料结构建模中的小数据性质预测与自监督预训练。 原因是:它足够科学、足够工程化、公开数据和 baseline 多、评估清楚、算力可承受,并且可以自然扩展到多模态材料大模型。