近日，广州大学网络空间安全学院与杭州君同未来科技有限责任公司共建“人工智能安全治理创新联合实验室”揭牌仪式在我校成功举行。广州大学网络空间安全学院副院长孙彦斌、君同未来首席商务官冯红婷、实验室主任-广州大学李默涵教授等双方代表共同见证。

“人工智能安全治理创新联合实验室”揭牌仪式

01 联合实验室为人工智能筑牢安全防线

人工智能安全治理创新联合实验室的成立，是践行国务院“人工智能+”行动意见、主动对接粤港澳大湾区发展需求的关键举措。李默涵教授出任联合实验室主任，带领实验室围绕大模型安全、AIGC生成内容安全、具身智能安全、跨域模型安全等核心领域技术与应用开展研究，在重大项目立项实施、技术资源共享、产品研发与推广、人才培训等多方面开展合作。实验室将充分整合双方资源优势，广州大学将发挥雄厚学术、人才与实验基地优势，君同未来亦会贡献行业需求认识、工程验证平台与技术资源，形成“基础研究—技术验证—产业化”高效衔接的协同创新链条。

02 联合实验室成立基础

联合实验室的成立，得益于双方深厚的技术积淀与坚实的合作基础。实验室主任由广州大学李默涵教授担任。李默涵教授是广州大学“百人计划”引进人才，现任广东省工业控制系统攻防对抗重点实验室副主任、广州大学-任子行工控网络安全态势感知联合实验室常务副主任。在人工智能安全与主动防御领域深耕多年，取得了一系列具有影响力的成果。主持多项国家级及省部级科研项目，在NeurIPS、AAAI、TIFS、TNNLS、EMNLP等人工智能与网络安全领域的顶级会议与期刊上发表多篇高水平论文，其中部分成果获广东省计算机学会优秀论文奖、ESI高被引论文及国际会议最佳论文奖。多次指导学生参加网络安全攻防对抗赛并取得优异成绩。深度参与“盾立方-四蜜”主动防御系统的研发与部署，并为大运会、亚运会、广交会等国家级重要活动提供网络安全保障，多次获得相关单位致函感谢。

合作方「君同未来」是国内人工智能治理领域的先行者，创始团队源自浙江大学、中国人民大学、佐治亚理工学院等海内外知名高校，其创始人韩蒙博士深耕算法及模型可信技术领域近十年，是国家级人才计划入选者，在CCS、ACL等CCF A类会议与期刊发表学术论文数十篇，牵头或参与二十余项国际、国家及行业标准制定，拥有百余项相关知识产权。君同未来构建了一套全面覆盖人工智能政策合规、能力评估、风险防护、监测管控、人才实训培养的生态治理服务与产品矩阵，已在百余客户、数百场景中落地验证，服务客户包括中央网信办、公安部、工信部、人民银行等部委下属机构以及海康威视、蚂蚁集团、字节跳动、灵伴科技、太平洋保险等行业标杆。

此前，双方已在项目研发与人才交流等方面形成良好互动，联合实验室的成立标志着合作进入新阶段，旨在加速已有成果与工程能力的转化，形成可落地推广的技术与服务。

03 重点研究方向与产业化攻关

联合实验室未来将围绕人工智能安全治理的关键问题开展系统性研究与工程攻关，首批重点布局以下方向：

1. 大模型安全：聚焦大语言模型的对抗攻击、隐私泄露与价值对齐风险，研发覆盖训练、推理与部署全周期的安全评测与加固技术。

2. AIGC生成内容安全：针对生成文本、图像、音视频等内容，构建深度伪造检测、内容溯源与合规审核系统，防范虚假信息与伦理滥用。

3. 具身智能安全：研究物理场景中机器人等智能体的行为安全、环境感知可信与人机交互伦理，确保其在动态复杂环境中的可靠可控。

4. 跨域模型安全：探索多模态、跨任务场景下模型迁移与协同的安全隐患，建立跨领域统一威胁评估与自适应防御框架。

期待更多有志青年、科研工作者与产业伙伴关注并加入联合实验室的研究与实践。

（来源：“网络空间先进技术研究院”公众号）