代理人工智能系统的组合安全分析
Compositional Security Analysis of Agentic AI Systems
申请要求（为空则代表无要求）
雅思：
托福：
留学费用：84000GBP/年
代理人工智能系统的组合安全分析项目简介
代理人工智能系统——基于大型语言模型（LLM）的代理，能够自主使用工具、执行代码、浏览网页并与API交互——代表了从被动语言模型到主动决策者的范式转变。由于代理会采取具有实际后果的行动，这带来了根本性的新安全挑战。当前的安全研究侧重于单个模型的漏洞，但代理在复杂的生态系统中运行，安全故障可能源于看似安全的组件（LLM + 工具 + 环境 + 编排逻辑）的组合。该项目旨在通过开发用于组合威胁建模的正式框架、系统地绘制代理人工智能特有的攻击向量（工具操纵、计划劫持、目标错位、多跳利用、环境攻击），以及设计安全构建的代理框架（基于能力的安全性、执行监控、沙盒推理、自反安全性、回滚机制）来应对这些挑战。
项目学术背景与核心优势
贝尔法斯特女王大学在电子工程与计算机科学领域拥有深厚的学术积淀，其所属的School of Electronics, Electrical Engineering and Computer Science长期关注智能系统与安全分析的交叉研究。该项目聚焦于代理人工智能系统的组合安全分析，旨在通过多维度理论框架帮助学生构建对复杂智能系统潜在风险的系统性认知。课程设置注重逻辑推理与形式化方法的结合，为学习者提供应对分布式智能环境中安全挑战的核心分析能力。
核心知识模块与培养方向
该博士项目的培养重心在于提升学生的专业素养与实操能力。课程体系通常围绕以下核心方向构建：
- 形式化验证方法：学习使用数学逻辑与模型检测技术，验证智能代理在组合场景下行为的可靠性与安全性。
- 多智能体系统建模：掌握异构代理交互的抽象建模方法，用于分析系统级安全漏洞的传播路径。
- 安全协议设计与评估：研究典型安全协议的组合理论，应用于自动驾驶、工业物联网等分布式系统的风险管控。
毕业生职业发展路径
结合人工智能安全与形式化验证领域的行业态势，该专业的毕业生具备较强的专业壁垒，适合在以下领域发展：
- 智能系统安全分析师：负责评估AI驱动的自动化系统的组合安全风险，制定防御策略。
- 形式化验证工程师：在航空航天、金融交易等关键领域，运用数学工具验证软件与协议的可靠性。
- 科研机构研究员：从事多智能体安全理论的前沿研究，推动组合安全分析方法的落地应用。
常见申请疑问解答
针对跨专业申请者，该方向通常要求申请人具备扎实的底层逻辑。如果能在先修课程或实践经历中展现出对【人工智能】的基础认知与分析能力，将有效弥补专业背景的不足。
在语言与学术准备方面，由于该项目涉及大量的专业文献阅读与学术对话，申请人需具备较强的学术英语理解能力。提前熟悉相关的研究方法或底层分析工具，将为后续高强度的专业学习打下坚实基础。