在安全环境中应用大型语言模型
Applying Large Language Models in Security Context
申请要求（为空则代表无要求）
雅思：
托福：
留学费用：GBP/年
在安全环境中应用大型语言模型项目简介
大型语言模型（如ChatGPT）在处理自然语言、解决数学问题和编写程序代码方面展现了惊人的能力。然而，目前对其在计算机安全等专业领域的能力进行正式评估还非常少。例如，我们可以研究生成内容的数字水印、代码词检测、恶意内容检测、作者身份识别等。本项目将着手创建一个概念验证应用程序或测试现有系统。导师也可以提供一些选择。在此过程中，还可以探讨底层技术的隐私和安全等额外挑战。虽然数学和编程等技术技能非常有用，但对所涉及技术的全面理解并非至关重要，因为大部分工作将在现场完成：设计、测试和评估大型语言模型的一个特定应用。我们将结合上下文学习（ICL）、微调（训练）和神经网络架构更改（如果需要）进行工作。我们将使用Archie-West超级计算机中心，这将提供直接使用大型语言模型的独特机会，而无需依赖公共商业API。
项目学术背景与核心优势
思克莱德大学在计算机与信息科学领域拥有深厚的研究积淀，其Department of Computer and Information Sciences长期关注数据安全与人工智能的交叉点。在安全环境中应用大型语言模型这一方向正是该校近年重点发展的前沿领域，旨在解决大模型在保密场景中的可靠性问题。思克莱德大学依托其在工程与安全方向的传统优势，为在安全环境中应用大型语言模型提供了独特的学术支撑，使该硕士项目能够系统培养学生的风险分析与模型防御能力。
核心知识模块与培养方向
该项目的培养重心在于提升学生的专业素养与实操能力。课程体系通常围绕以下核心方向构建：
- 对抗样本与鲁棒性分析，用于评估并提升模型在恶意输入下的稳定表现。
- 隐私保护机制设计，在联邦学习或差分隐私框架中保障训练数据不被逆向还原。
- 安全审计与红队测试方法，通过模拟攻击行为发现模型部署后的潜在漏洞。
毕业生职业发展路径
结合当前行业对可信AI的迫切需求，该专业的毕业生具备较强的专业壁垒，适合在以下领域发展：
- AI安全研究员，负责设计防御算法并测试模型的抗攻击性能。
- 合规与风险分析师，评估企业内部大语言模型应用的安全合规性。
- 安全架构师，制定企业级大模型部署的安全策略与应急响应方案。
常见申请疑问解答
针对跨专业申请者，该方向通常要求申请人具备扎实的底层逻辑。如果能在先修课程或实践经历中展现出对计算机科学的基础认知与分析能力，将有效弥补专业背景的不足。
在语言与学术准备方面，由于该项目涉及大量的专业文献阅读与学术对话，申请人需具备较强的学术英语理解能力。提前熟悉相关的研究方法或底层分析工具，将为后续高强度的专业学习打下坚实基础。