当前位置: 首页   >   学术动态   >   正文

齐佳音教授领衔攻关:如何防范生成式人工智能系统风险

发布日期:2025-04-02

3月26日,广州市社科联与广州大学联合共建粤语语料库建设与大模型评测重点实验室主任齐佳音教授主持的教育部哲学社会科学研究重大课题攻关项目《生成式人工智能系统的风险治理与能力构建研究》(24JZD040)开题会在广州大学黄埔校区举行。教育部高校社会科学研究评价中心原主任李建平、广州大学副校长张其学教授出席会议并致辞。本次研讨会邀请了中国人民大学公共管理学院教授何艳玲,中国政法大学教授、比较法学研究院院长解志勇,华中科技大学公共管理学院教授毛子骏,南开大学周恩来政府管理学院教授、计算社会科学实验室主任锁利铭,暨南大学产业经济研究院研究员陈林,中央网信办中国网络空间研究院网络安全研究所所长姜伟,中山大学管理学院教授吴记等作为指导组专家。


会议伊始,张其学致欢迎辞,强调了本课题对我国生成式人工智能系统健康发展具有重要意义,希望项目组认真听取专家建议,开展高质量研究工作。李建平在致辞中对广州大学在该领域的研究基础与实力表示肯定,强调项目进行过程中应树立“品牌意识”,对项目顺利执行提出了具体建议。



△广州大学副校长张其学致欢迎辞



△教育部高校社会科学研究评价中心原主任李建平致辞


会议分为报告环节以及研讨环节两个环节,分别由广州大学教授、科学研究院副院长、社科处处长张延平和中国人民大学公共管理学院教授何艳玲主持。



△广州大学教授、科学研究院副院长、社科处处长张延平主持会议



△中国人民大学公共管理学院教授何艳玲主持会议


在报告环节,首席专家、广州大学网络空间安全学院齐佳音教授详细阐述了项目的研究意义、目标、内容以及预期成果。她指出,随着人工智能技术的飞速发展,如何在鼓励创新的同时有效防范潜在风险,成为亟待解决的关键问题。本项目将围绕这一核心,从多学科视角展开深入研究,旨在构建一套针对生成式人工智能系统风险的治理体系和能力框架,为我国人工智能产业的可持续发展提供理论支撑与实践指导。



△项目首席专家广州大学网络安全学院教授齐佳音汇报项目基本情况


在研讨环节,各位专家纷纷发表真知灼见。中国工程院院士、网络空间安全专家方滨兴院士建议课题组聚焦研究内容、攻克核心难关,助力构建我国生成式人工智能系统的风险治理体系和能力框架。



△中国工程院院士、网络空间安全专家方滨兴院士提出意见和建议


中国政法大学教授、比较法学研究院院长解志勇教授指出,中国的人工智能立法十分重视促进人工智能的发展,强调了宏观治理体系中的法律治理问题,建议项目组从系统性角度整合治理思路。华中科技大学公共管理学院毛子骏教授对项目内容以及结构表示认可,认为多学科交叉是未来项目研究的发展方向,建议项目组设定目标优先级,聚焦关键问题开展研究。南开大学周恩来政府管理学院教授、计算社会科学实验室主任锁利铭强调项目具有前瞻性,同时指出项目子课题涉及跨学科交叉,执行难度较大,希望项目组结合各个学科的基础和前沿,发挥各学科积极作用,共同解决生成式人工智能风险治理问题。中山大学管理学院吴记教授指出,技术迭代与治理之间存在滞后性,项目在进行过程中应注重治理的适应性、敏捷性和前瞻性,提前规划思路以应对生成式人工智能技术的快速发展。



△特邀点评专家提出建议和意见


作为主持人和首席点评专家的中国人民大学公共管理学院教授何艳玲教授用“情怀驱动,全力以赴;研究先行,层层迭代;深刻洞悉,逻辑严谨;精心组织,一击即中。”四句话对项目组表示肯定,并对专家评议进行总结。她指出,项目设计注重精巧,应聚焦最擅长且我国最迫切的问题,缩小研究范围;社会内容研究需考虑多方面因素,包括法学深度、风险责任、产业关联等,同时要结合中国国情推进研究;项目为跨学科合作研究提供了示范,未来应加强产学研联动,形成全新生态;在治理问题上,需明确治理主体,包括国家、政府、市场和社会机制等,并深入分析社会维度的治理主体;能力建设是关键,需在国家治理体系中定位项目,辩证分析矛盾关系,如发展与安全、创新与监管等;最终落脚点是服务于人,确保社会公平、全球信息生态和个体受益。


专家组点评环节后,项目首席专家齐佳音教授代表项目组感谢专家组提出的富有洞察力的建议,表示项目组将根据专家建议,进一步完善研究方案,努力推出精品成果。



此次开题会召开,标志着《生成式人工智能系统的风险治理与能力构建研究》项目正式进入实施阶段。项目组成员表示,将在各方共同努力下,力争取得丰硕成果,为我国生成式人工智能系统的健康发展保驾护航。



本文转载自广州大学新闻网。



【编辑 张瑨欣】

【初审 罗欢】

【终审 禤健聪】

Copyright © 2024 广州大学荔湾研究院(研究生院) 版权所有
地址:广州市荔湾区西堤二马路37号文化公园广州十三行文化科技中心二楼

Copyright © 2021 广州大学岭南文化艺术研究院 版权所有
地址:广州市大学城外环西路230号行政东楼前座646、648  邮编:510006