原标题：生成式AI新规禁止侵害他人肖像权！“明星换脸”曾引争议
7月13日，南都记者获悉，国家网信办等七部门近日联合公布《生成式人工智能服务管理暂行办法》（以下简称“《办法》”），对侵害个人信息权益、传播虚假信息、数据安全等问题都作出了规定。南都记者注意到，此前一男子利用AI技术“换脸”炮制出了自己与迪丽热巴亲吻的画面引发争议，中国支付清算协会也曾发布关于谨慎使用ChatGPT等工具的倡议，生成式AI技术的合规性、版权、数据隐私等风险问题备受关注。
网友使用“AI换脸”技术生成视频。
据了解，生成式人工智能又称AIGC或生成式AI，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。4月11日，国家互联网信息办公室曾发布了《生成式人工智能服务管理办法（征求意见稿）》。
此次出台的《办法》指出，提供和使用生成式人工智能服务，不得生成虚假有害信息等法律、行政法规禁止的内容；不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；提供者不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录等。提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。《办法》自8月15日起施行。
南都记者关注到，随着生成式AI在国内得到越来越广泛的应用，不少问题也开始逐渐显现。
此前一男子利用AI技术“换脸”炮制出了自己与女星迪丽热巴亲吻的画面，随后引起热议。据南都此前调查报道，“AI明星换脸”在网络上有不同的消费套餐，价格在28元至138元不等，68元即可购买一套AI技术明星换脸淫秽视频，共500部左右。
生成式AI应用的数据泄露问题同样令人担忧。4月10日，中国支付清算协会发布关于支付行业从业人员谨慎使用ChatGPT等工具的倡议，称此类智能化工具已暴露出跨境数据泄露等风险。另据国际技术经济研究所消息，三星员工直接将企业机密信息以提问的方式输入到ChatGPT中，导致相关内容进入学习数据库从而可能泄露给更多人，被公司告知谨慎使用ChatGPT。
在业内专家看来，生成式AI既有优势，也有隐患。IDC中国研究总监卢言霞此前在接受南都记者采访时表示，生成式AI的技术尚处于起步阶段，但前景可期。在现阶段，生成式AI可能面临一系列的监管问题，比如伪造商品评论进行虚假营销，生成钓鱼邮件骗取个人信息，侵犯知识产权，编造谎言制造阴谋论等。
采写：南都记者 冯奕然 实习生 黄和返回搜狐，查看更多
责任编辑：
