A review of large language models and autonomous agents in chemistry

A review of large language models and autonomous agents in chemistry

⚠️ AI 生成 · 建议对照原文 本页为自动整理的学习笔记；关键数据与引用如需引用，请回查 PDF / 官方版本。

学习档位 中文笔记

类型 文献 · 更新 2026-07-19

所属 扩散模型 · LLM 与语言推理

中文学习笔记（自动生成，需核验）

Topic: llm-language-reasoning · Tier: foundational · Year: 2024 · Venue: —
Evidence level: partial · 本地全文: 是 · 建议阅读: ~60 分钟
Paper: https://arxiv.org/abs/2407.01603
Code: —
Generator: grok

为什么值得读

这篇综述系统梳理了大型语言模型（LLMs）与基于LLM的自主代理在化学中的能力与潜力，连接属性预测、性质导向分子生成、合成预测与自动化，帮助理解如何通过AI加速科学发现，并指出数据质量、可解释性等关键挑战与多模态代理等未来方向；同时维护了跟踪最新研究的仓库。

一句话结论

本文综述LLMs与自主代理在化学（及更广科学域）中的历史、能力、设计与应用，突出其对分子设计、属性预测、合成优化和实验自动化的加速作用，并讨论挑战与机遇。

问题定义

化学中的关键挑战包括：给定化合物预测属性（以决定是否合成）；生成满足特定性质/轮廓的新化学结构（性质导向逆向设计/de novo设计）；预测最优合成路线（使用廉价、易得、无毒起始材料）；以及将这些与自动化结合以探索巨大化学空间（估计可达10^180稳定化学品）并加速数据库增长。

前置知识

机器学习与深度学习基础（尤其序列模型）、自然语言处理（NLP）与Transformer架构、化学信息学基础（如SMILES分子表示）、属性预测/QSAR/合成预测等化学任务概念。

核心贡献

• 系统综述LLMs在分子设计、属性预测与合成优化中的能力及其通过自动化加速科学发现的潜力
• 扩展综述LLM-based自主代理（配备更广泛工具以与环境交互），覆盖化学及更广科学域中的文献爬取、自动化实验室接口、合成规划等任务
• 覆盖LLMs与自主代理的近期历史、当前能力与设计，并针对化学中的特定挑战、机遇与未来方向进行讨论
• 识别关键挑战（数据质量与整合、模型可解释性、标准基准需求）并指向更复杂的多模态代理与代理-实验方法协作
• 建立持续跟踪最新研究的仓库：https://github.com/ur-whitelab/LLMs-in-science

方法流程

作为综述论文：先介绍Transformer架构（编码器-解码器、仅编码器、仅解码器及多任务/多模态）与训练（自监督预训练、提示工程、监督微调、对齐/RLHF等）；再按架构对应化学任务分类综述（encoder-only用于属性预测/分类，decoder-only用于性质导向生成，encoder-decoder用于合成/反应预测，以及多模态与文本科学LLM）；随后介绍自主代理核心模块；再按应用场景（文献综述、化学创新、实验规划、化学信息学任务自动化、假设生成）综述代理；最后讨论挑战机遇并结论。图1连接属性预测、性质导向分子生成、合成预测与代理驱动的自动化。

关键模块和设计取舍

代理模块包括：Memory Module（记忆）；Planning and Reasoning Modules（规划与推理）；Profiling Module（画像/角色设定）；Perception（感知）；Tools（工具，用于与环境交互如论文爬取、自动化实验室、合成规划）。Transformer关键设计取舍：注意力机制（点积+学习非线性）解决长序列依赖，但二次计算成本限制上下文窗口；位置编码（正弦/余弦或学习）弥补无内置位置信息；残差连接与层归一化缓解梯度问题；编码器将输入转为向量（适合属性预测/分类），解码器自回归生成下一token（适合分子生成），编码器-解码器适合翻译式任务如反应预测。训练取舍：自监督预训练利用无标注大数据；提示工程保持通用性但敏感且一致性难；监督微调与对齐（指令调优+RLHF等）提升指令跟随与人类偏好对齐。

数据集、实验设置与指标

文中提及分子表示、数据集与基准（Section 3.1），强调高质量数据对属性预测的重要性，并讨论当前数据集的注意事项与问题；化学空间巨大（可达10^180），需失败合成记录以构建全面特征集。具体数据集名称、实验设置与定量指标在提供摘录中未详细列出，待来源核验。

主要结果（需原文证据）

作为综述无原创定量实验；主要定性结论为LLMs已显著影响分子设计、属性预测与合成优化，并可通过自动化加速发现；代理可执行文献爬取、自动化实验室接口与合成规划等；历史演进从早期专家系统/QSAR/神经网络到深度学习（RNN/CNN/GNN）再到LLM与代理。具体性能数字与对比结果待来源核验。

局限、失败场景与适用边界

数据质量与整合问题；模型可解释性不足；缺乏标准基准；化学空间巨大导致逆向设计尚不可靠；上下文窗口限制（注意力二次成本）影响长文本/复杂对话连贯性；提示工程对措辞敏感、一致性与准确性量化难；预训练/微调未充分融入人类价值观，需对齐以减少有害输出；自动化与代理仍为新兴主题。适用边界：更适合已有文本/化学语法（SMILES等）数据的任务，多模态与代理-实验深度协作仍需进一步发展。

与前序 / 同期 / 后续方法的关系

前序：1950s-1970s量子化学/分子建模奠基；1980s专家系统（如DENDRAL）与QSAR；1990s神经网络与自组织映射用于药物设计；HTS数据爆发后SVM/随机森林等；2010s深度学习（RNN/CNN/GNN）用于属性预测、药物发现与合成预测。同期/本工作：受NLP成功启发将LLM适配化学语言（SMILES）用于合成预测到分子生成；集成到自主代理（如M. Bran et al.、Boiko et al.）用于数据解释或机器人实验。后续方向：更复杂多模态代理与代理-实验方法增强协作；持续通过仓库跟踪。

官方代码与复现建议

官方跟踪仓库：https://github.com/ur-whitelab/LLMs-in-science（用于保持最新研究更新）。无特定可运行实验代码或复现脚本在摘录中提及；作为综述建议从仓库跟踪最新工作并参考文中引用的原始论文进行复现。

推荐阅读顺序

1. Abstract与Introduction（含1.1 Challenges in Chemistry与图1）把握整体框架与四大挑战；2. Section 2 Large Language Models（Transformer、训练、模型类型）建立技术基础；3. Section 3 LLMs for Chemistry and Biochemistry（按表示/数据集、属性预测encoder-only、逆向设计decoder-only、合成encoder-decoder、多模态、文本科学LLM、ChatGPT使用顺序）深入应用；4. Section 4 LLM-based Autonomous Agents（各模块）与Section 5科学应用场景；5. Section 6 Challenges and Opportunities与Conclusions；最后查看仓库获取更新。

自测问题

1. Q: 化学中AI可解决的四大关键类别是什么？它们如何相互连接？ A: 属性预测、性质导向分子生成、合成预测，以及自动化。代理连接这些模型与额外工具，实现快速探索巨大化学空间。
2. Q: Transformer的编码器、解码器与编码器-解码器分别最适合化学中的哪些任务？ A: Encoder-only适合属性预测/分类（输出向量）；Decoder-only适合按指令生成新分子；Encoder-decoder适合反应/合成预测（类似翻译反应物到产物）。
3. Q: LLM训练生命周期的主要阶段是什么？ A: 自监督预训练得到base model；监督微调（常为指令跟随）得到instruct model；再用奖励模型/对齐（如RLHF）进一步调优以提升人类偏好或其他目标。
4. Q: 自主代理的主要模块有哪些？ A: Memory Module、Planning and Reasoning Modules、Profiling Module、Perception、Tools。
5. Q: 文中提到的关键挑战与未来方向分别是什么？ A: 挑战包括数据质量与整合、模型可解释性、标准基准需求；未来方向包括更复杂的多模态代理以及代理与实验方法的增强协作。

原文证据

• page 1 Abstract: Large language models (LLMs) have emerged as powerful tools in chemistry, significantly impacting molecule design, property prediction, and synthesis optimization. This review highlights LLM capabilities in these domains and their potential to accelerate scientific discovery through automation. We also review LLM-based autonomous agents… Key challenges include data quality and integration, model interpretability, and the need for standard benchmarks, while future directions point towards more sophisticated multi-modal agents and enhanced collaboration between agents and experimental methods. … https://github.com/ur-whitelab/LLMs-in-science.
• page 3 Section 1.1 Challenges in Chemistry: We categorize some key challenges that can be addressed by AI in chemistry as: Property Prediction, Property-Directed Molecule Generation, and Synthesis Prediction. These categories, as illustrated in Figure 1 can be connected to a fourth challenge in automation. … The number of possible stable chemicals is estimated to be up to 10^{180}.
• page 4-5 Section 2.1 The Transformer: The transformer was introduced in, “Attention is all you need” by Vaswani et al. … The transformer architecture is built around two key modules: the encoder and the decoder. … Encoder-only transformers provide a vector output and are typically used for sentiment analysis. In chemistry, they are used for property prediction or classification tasks. … Decoder-only transformers generate likely next tokens in a sequence. In chemistry, they are used to generate new molecules…
• page 6-7 Section 2.2 Model training: The common lifetime of an LLM consists of being first pretrained using self-supervised techniques, generating what is called a base model. … this base model is often fine-tuned… “instruct model.” … Finally, the instruct model can be further tuned with reward models… Self-supervised Pretraining… Prompt Engineering… Supervised Fine-tuning… LLM Alignment… Reinforcement Learning with Human Feedback (RLHF)…
• page 2 Contents / page 4: Figure 1: AI-powered LLMs accelerate chemical discovery with models that address key challenges in Property Prediction, Property Directed Molecule Generation, and Synthesis Prediction. Autonomous agents connect these models and additional tools thereby enabling rapid exploration of vast chemical spaces.

Discovery evidence

• topic: data-engineering
• sources: openalex
• retrieved_at: 2026-07-20
• query: auto labeling 3D object detection autonomous driving
• doi: 10.1039/d4sc03921a
• score_total: 52
• suggested_tier: recent

Relevance

(no prose relevance explanation — numeric score only or HTTP source)

Snippets

(no snippet evidence in candidate pool)

延伸解读与背景补充

生成：2026-07-21 · 来源条数 2 · 模型 heuristic · 需人工核验数字

问题再表述

围绕「A review of large language models and autonomous agents in chemistry」的核心问题与动机（待结合全文核验）。

方法要点补强

• 见原文方法章节；以下为基于摘要/摘录的要点提示。
• A R EVIEW OF L ARGE L ANGUAGE M ODELS AND AUTONOMOUS AGENTS IN C HEMISTRY …

与相近工作的关系

与相近工作的关系待核验；请对照 related work。

常见误读

• 勿仅凭摘要推断未给出的数值指标。

自测问题

1. 这篇工作的输入/输出表示是什么？（A review of large language models and autonomous agents in chemistry）
2. 训练目标与评测协议各是什么？
3. 主要失败模式或局限是什么？

外部解读索引

• [2407.01603] A Review of Large Language Models and Autonomous Agents in Chemistry — 2026-07-21 — 官方摘要/二次页面（自动抓取）
• [2407.01603] A Review of Large Language Models and Autonomous Agents in Chemistry — 2026-07-21 — 官方摘要/二次页面（自动抓取）

关键图表

方法结构（重绘）

flowchart LR
  A["输入 / 观测"] --> B["表示 / 编码"]
  B --> C["推理 / 解码"]
  C --> D["输出 / 动作或检测"]
  %% method sketch for: A review of large language models and autonomous agents in chemistry

方法结构示意（重绘；细节以原论文为准，待 PDF 核验）。

论文摘录图/表

来源：原论文约 p.3（arch）；学习用途摘录。

来源：原论文约 p.12（table）；学习用途摘录。

英文自动分析（可折叠）

展开英文 Paper Card / AI deep analysis

Paper Card

Field	Content
Year	2024
Authors	Mayk Caldas Ramos, Christopher J. Collison, Andrew Dickson White
arXiv	2407.01603
DOI	10.1039/d4sc03921a
Topics	diffusion-models, llm-language-reasoning
Paper	https://arxiv.org/abs/2407.01603

原文摘录与素材（可折叠）

展开 Extract / Selections / Local assets

Selections

• diffusion-models: tier=watch rank=4 score=50 — auto refresh 2026-07-19 sources=openalex
• llm-language-reasoning: tier=foundational rank=2 score=67 — auto refresh 2026-07-19 sources=openalex | promoted recent->foundational for coverage fill

Extract excerpt

(no PDF text available; metadata-only card)

Local assets

反向链接

• LLM 与语言推理
• 扩散模型

---

学习导航

标记为已读

• 所属 Topic: diffusion-models
• 学习路径: 学习路线 · 论文库
• 下一篇: DiffusionDrive: Truncated Diffusion Model for End-to-End Autonomous Driving
• 返回 Topic