从基础开始的AI治理与设计——模型、工具与实践

本研究探讨了从基础层面塑造人工智能系统治理框架和技术设计的方法。重点在于设计和开发数字工具，以支持知情、参与式的决策过程，将人类需求映射到软件行为。人工智能治理的主要方法往往是专家主导和自上而下的，因此忽视了直接或间接受这些技术影响的公民的多元生活经验（例如，对劳动力的影响）。例如，虽然欧盟人工智能法案（第一部也是目前唯一一部人工智能立法）涵盖了高风险系统的关键伦理（例如公平性）、技术和法律（例如数据隐私）方面，但非高风险人工智能工具仍仅限于自愿框架。这很重要，因为这些“低风险”系统，从教育工具到公共服务，具有普遍的社会影响，而且它们的使用往往也逃避了欧盟人工智能法案的“识字授权”，本研究将寻求将其扩展到目前对人工智能部署者和开发者的关注之外。在此背景下，研究还表明，自下而上的协商式知情决策方法有可能通过在一个结构化和有目的的过程中汇集不同观点来解决复杂的社会挑战。然而，支持协商过程的现有数字平台在技术方面面临局限性，这些技术需要不断发展的技术、法律知识和实践经验。例如，专注于民主决策的工具并未设计用于对生成式人工智能等技术做出决策，这些技术需要快速且不断发展的“技能提升”以支持知情决策。本研究旨在在解决现有参与式决策倡议当前局限性的同时，借鉴其成功元素，开发新颖的方法和工具，将知情决策转化为人工智能使用和开发的具体指导。

贝尔法斯特女王大学作为全球高等教育的标杆性机构，其从基础开始的AI治理与设计——模型、工具与实践项目依托学校在领域的深厚学术传统与实践经验，致力于培养学生的系统性分析能力。