欧盟将禁止AI生成深度伪造色情内容

新华社上午电 欧洲议会和欧盟成员国7日就修订《人工智能法案》达成共识，同意禁止人工智能生成深度伪造的色情内容。

该禁令将被纳入2024年通过的《人工智能法案》修订条款。欧洲议会议员麦克纳马拉说，这是欧盟首次通过立法明确禁止“脱衣换脸”类应用程序，“欧盟今天划定了‘红线’，人工智能不能用于羞辱、剥削或危害他人”。

内置于美国企业家马斯克旗下社交媒体平台X的人工智能聊天机器人“格罗克”因被指生成色情内容，引发广泛谴责。根据人工智能取证组织报告，2025年12月25日至2026年1月1日，在“格罗克”以深度伪造方式生成的2万张图像中，55%人物图像穿着暴露，其中81%是女性；2%图像中人物年龄不足18岁。X平台随后宣布，不再允许“格罗克”生成基于真人的伪造性暴露图像。