博士二年级 · 人工智能研究

盛杨 Yang Sheng

复旦大学上海创智学院

我是盛杨,目前是复旦大学与上海创智学院的博士二年级学生。我对理解和推进人工智能有广泛兴趣,希望朝着安全且有能力的 AGI 前进。我的长期愿景是参与构建既强大又值得信赖的 AI,为人类社会带来持久、积极的影响。

我的研究兴趣包括机制可解释性、模型后训练与对齐,也关注强化学习、持续学习和递归自我改进(RSI)。我不仅想理解模型如何工作,也希望将这种理解与更好的验证方法用于改进训练,让模型能够可靠地自主学习和提升能力。

我也喜欢构建有实际价值的 AI 工具、技术和产品,欢迎与兴趣相近的朋友交流,或一起探索合作的可能。

盛杨的照片

目前在中国上海

近期动态

  • 2026.09

    我们关于电路提取与比较的论文被 NeurIPS 2026 接收。

  • 2026.09

    进入博士研究的第二年。

  • 2026.04

    FormalJudge 被 ICML 2026 主会接收。

01 / 论文

代表论文

意图规范验证

从要求,走向可检验的行为

概念示意
ICML 2026 · 主会接收

FormalJudge: A Neuro-Symbolic Paradigm for Agentic Oversight

Jiayi Zhou*, Yang Sheng*, Hantao Lou*, Yaodong Yang, Jie Fu

* 共同一作。

将自然语言要求连接到形式化规范,为智能体监督提供超越模型打分的可检验依据。

  • 智能体监督
  • 形式化验证
BibTeX · ICML 2026
@inproceedings{pmlr-v306-zhou26ao,
  title={{F}ormal{J}udge: A Neuro-Symbolic Paradigm for Agentic Oversight},
  author={Zhou, Jiayi and Sheng, Yang and Lou, Hantao and Yang, Yaodong and Fu, Jie},
  booktitle={Proceedings of the 43rd International Conference on Machine Learning},
  pages={165723--165752},
  year={2026},
  volume={306},
  series={Proceedings of Machine Learning Research},
  publisher={PMLR},
  url={https://proceedings.mlr.press/v306/zhou26ao.html}
}
提取比较理解

提取对象与比较层次同样重要

概念示意
NeurIPS 2026 · Poster

Circuit Claims Depend on What Is Extracted and How It Is Compared

Yang Sheng, Jie Fu

通过受控比较,研究电路分析的结论如何受到报告对象、提取方法、比较层次与比较方式的影响。

  • 机制可解释性
  • 电路分析
BibTeX · NeurIPS 2026
@inproceedings{sheng2026circuit,
  title={Circuit Claims Depend on What Is Extracted and How It Is Compared},
  author={Yang Sheng and Jie Fu},
  booktitle={The Fortieth Annual Conference on Neural Information Processing Systems},
  year={2026},
  url={https://openreview.net/forum?id=7RfZ1ThE5z}
}

02 / 研究

研究兴趣

01

机制可解释性

理解语言模型内部的能力与行为机制,并将这些认识用于模型评估、训练和干预。

02

后训练与对齐

关注后训练与强化学习中的反馈和学习目标设计,以及能力提升与行为可靠性之间的关系。

03

持续学习与 RSI

关注模型如何保留和整合新知识,在单次训练之后继续学习,以及自我改进过程中的可靠性。

03 / 项目

开源项目

04 / 教育背景

教育经历

  • 2025 — 至今

    复旦大学 · 博士

    在上海创智学院开展研究

  • 2021 — 2025

    伯明翰大学 · 数学理学学士

    暨南大学 · 统计学理学学士
    暨南大学伯明翰大学联合学院

05 / 联系

联系我

欢迎通过邮件交流研究或联系合作。