9月3日，北京人工智能安全与治理实验室在中关村科技园门头沟园京西智谷揭牌成立。该实验室是面向人工智能安全发展与治理的新型研发机构。实验室致力于构建系统化的安全与治理体系，为人工智能的创新和应用提供坚实的安全保障，引领人工智能安全与治理的新趋势。实验室在北京市多个委办局的指导与支持下建立，与中国科学院自动化研究所人工智能伦理与治理中心、中国信通院人工智能研究所共建，并得到来自清华大学、北京大学等高校和科研机构研究团队的合作支持。实验室坐落于北京市中关村科技园门头沟园京西智谷，并得到门头沟区政府的大力支持。实验室揭牌仪式作为北京数据基础制度先行区门头沟片区揭牌仪式重点环节之一于门头沟京西智谷举行。北京市经信局、北京市委网信办、门头沟区、中关村发展集团、京能集团相关领导共同为实验室揭牌。

        在揭牌仪式上，实验室主任曾毅介绍了北京人工智能安全与治理实验室的成立背景与发展愿景。他强调实验室是打通人工智能安全与治理前沿研究及产业自律自治、政府引导与监管的全新探索。实验室与共建单位发布了“人工智能安全与治理公共服务平台”，平台可在人工智能伦理安全政策、安全风险监测、伦理安全评测方面提供服务。近期，实验室正与共建单位、合作机构共同打造人工智能伦理与安全评测体系、构建安全人工智能基础模型。据介绍，实验室也将利用北京市丰富的学术资源和产业优势，推动跨学科合作，不断探索新的研究路径，解决人工智能伦理与安全领域中的潜在和紧迫问题。实验室还致力于人工智能长远风险与安全的战略性前瞻研究，并积极参与和贡献于人工智能安全与治理国家战略和国际合作与交流。

        曾毅主任说，我国不仅要逐步完善人工智能安全与治理相关政策体系，更要布局人工智能安全与治理各级研究机构、测评与赋能中心的建立推进前沿研究与实践，并在此基础上完善人工智能安全合作网络的构建，打通政产研共建的中国人工智能安全与治理体系。据他介绍，自2023年开始，英国和美国等十余个国家相继成立人工智能安全研究所。我国此前由学者和产业共同发起成立了人工智能安全合作网络。2024年世界人工智能大会期间上海人工智能安全治理实验室成立。此次北京人工智能安全与治理实验室的成立在首都作为人工智能原始创新的先发地和策源地，进一步完善了我国人工智能安全与治理体系的布局。曾毅说：“实验室不仅仅是立足北京，服务北京，更会将北京人工智能安全与治理的探索与全国各省市积极分享，共同探讨与促进。并与全国的相关机构一道促进人工智能安全与治理的中国实践，发出中国声音，融入和贡献于全球人工智能的稳健发展。”