生成式人工智能训练数据的风险与治理研究

陈宏光，安诗凤^*

摘 要：生成式人工智能技术目前正处于蓬勃发展时期，但其在训练数据收集和处 理时，潜在的合规、泄露和偏见等风险时刻威胁着生成式人工智能技术的健康发展、扰乱 社会秩序，成为生成式人工智能治理必须解决的问题。我国目前对生成式人工智能训练 数据风险治理既有政策支持，又有法律保障。在这些基础上，行政机关可以建立生成式人 工智能基础模型信息库，预防训练数据合规风险；也可以开发、使用合成数据，扩大训练 数据来源，规避训练数据泄露风险；还可以通过适当细化训练数据审核制度和逐步实施 生成式人工智能企业数据信用制度的方式，规范生成式人工智能训练数据使用行为，降 低风险发生概率。

关键词：生成式人工智能；训练数据；风险治理

基金项目：2022年安徽省哲学社会科学规划青年项目“人脸识别技术在地方政府治理中的应用风险及其法律规制 研究”阶段性成果（项目编号：AHSKQ2022D118）。