“构建人工智能护栏的全球共识”课题项目启动仪式在京举办

文丨罗曾

1月23日上午，由北京大学中外人文交流研究基地与启明创投联合主办的“构建人工智能护栏的全球共识”课题项目启动仪式在北京大学英杰会议中心星光厅以线上线下相结合形式举办。各国专家学者与媒体代表齐聚一堂，共商人工智能领域全球规则构建，探寻国际治理共识。

北京大学国际关系学院教授、中外人文交流研究基地执行主任王栋主持活动。

全国政协常委，北京大学国际关系学院教授、中外人文交流研究基地主任贾庆国通过视频发表开幕致辞。贾庆国表示，相较于人类发展至今的任何一次科技突破，人工智能为人类带来了的机遇与挑战也许更大更多。一方面，人工智能的应用在信息处理、知识创新、健康保障、经济提质增效、廉洁政务建设等诸多领域取得了显著进展；另一方面，其引发的就业岗位冲击、隐私信息泄露、直接社会交往减少、致命性武器研发、超级智能诞生等风险与挑战也已初见端倪、可预可察。作为全球性现象，人工智能风险的有效治理是全人类共同面临的重大课题，亟需国际社会携手合作、协同应对。本次项目正是对这一人类迫切需求的直接回应，对中国参与全球人工智能风险治理、贡献中国方案与中国力量具有重要意义。

贾庆国致辞

启明创投创始主管合伙人邝子平发表开幕致辞。邝子平表示，过去20年启明创投一直在中国投资，启明创投坚信技术创新能够融入社会、造福人类。正因如此，启明创投近年来将大量精力集中在人工智能领域的投资，目前已在该领域进行了多项投资，许多启明创投的投资企业为经济和社会带来双重效益。邝子平表示，“我们深信AI是一项变革性技术，它将带来改变甚至是颠覆，并且在多数情况下提升效率、提升生活品质，乃至改变社会的运行方式。”与此同时，启明创投也意识到，AI也带来很多风险和挑战，且这些挑战是全球性的，是人类共同的挑战。启明创投希望通过支持国际顶尖研究机构IGCU的“构建人工智能护栏的全球共识”课题项目，为产业界、专业界乃至政策制定者搭建一个基于共同认知的对话框架，推动形成基本的国际行为规范。

邝子平致辞

在项目启动仪式环节，北京大学国际关系学院教授、中外人文交流研究基地执行主任王栋介绍项目总体计划及报告发布安排。王栋表示，本课题项目致力于建立清晰、可操作、可持续的共识达成与落实机制，作为破解AI治理分歧的核心抓手。项目通过“全景绘制”，梳理各国AI治理框架，明确共识、分歧与空白领域；依托“共研协调”，建立分歧动态追踪机制，识别全球AI治理安全红线与共同基础；落实AI治理共识的“机制落地”，构建“对话—共研—转化—追踪”全流程机制，推动AI治理共识凝聚及技术可持续发展。王栋重点介绍了项目的第一份报告《人工智能治理的国际图景》，报告旨在系统梳理各国政府、国际组织、企业与学界提出或采用的人工智能护栏框架，全景展现当前全球治理格局。

课题启动仪式环节

在主题研讨环节，参会嘉宾分别针对项目设计提出指导性意见。

北京大学武汉人工智能研究院执行院长吴志强表示，应借鉴核安全治理的二分框架，区分人工智能的“存在性风险”与“系统性风险”。他强调，当前政策应聚焦于现实、可解决的系统性风险，避免资源被过度集中于远期的假想威胁，并呼吁加大对AI安全研究的投入比例，使其成为基础设计的核心。

信息技术与创新基金会副主席丹尼尔·卡斯特罗（Daniel Castro）以食品安全类比，表示不同国家在AI治理上会有不同选择，关键在于确保基本安全标准。他强调护栏设计需考虑内在权衡，并指出开放科学与研究共享对于全球共同学习、避免重复错误至关重要。

中国信息通信研究院人工智能研究所所长、中国人工智能产业联盟总体组组长魏凯阐述了AI风险的多层次性，并强调了“动态安全观”与“敏捷治理”理念。他建议建立从企业到国家的“PDCA”（即计划、执行、检查、处理四个阶段）闭环管理机制，形成多方协同的治理生态，以应对技术快速迭代带来的不确定性。

耶鲁大学法学院蔡中曾中国中心高级研究员陆凯（Karman Lucero）表示，全球AI治理面临技术、机构与政治三重挑战。他建议研究应正视并深入分析其中的政治差异与制度能力建设问题，在承认分歧的基础上寻求可操作的共识与架构。

北京大学法学院副院长戴昕表示，任何技术或制度性护栏的效力最终都依赖于其所嵌入的法律与社会规范体系。他认为，对护栏乃至治理的合理期待不是其能确保安全，而是其在人工智能发展存在重大不确定性的背景下有助于维护公众安全感知和社会信任。在国际合作维度，他建议应从识别若干无争议的共识性治理课题入手，从而尽快突破当前各类人工智能治理对话受困于话语分歧、无法实现具体行动的局面。

安远AI国际AI治理高级研究经理周杰晟（Jason ZHOU）介绍了基于“误用、故障、系统”的三类风险框架，以及“黄线”与“红线”的操作化思路。他提出可通过具体的风险评估与模型测试将治理原则落地，并呼吁加强跨国危机管理协作，共同提升应对AI突发事件的能力。

参会嘉宾发言

活动最后，北京大学国际关系学院教授、中外人文交流研究基地执行主任王栋作总结发言。王栋表示，各位专家学者在会上发表的真知灼见，将为项目下一步推进提供重要指导。课题组将认真梳理、吸收这些宝贵建议，全力做好首份报告的撰写工作。未来，项目将持续聚焦人工智能安全护栏这一全球性命题，通过扎实研究，推动国际共识的凝聚与落实。他衷心感谢启明创投的鼎力支持、各位嘉宾的深入分享以及团队成员的辛勤工作，并期待与各方携手，共同助力人工智能的全球治理与可持续发展。