快科技5月7日消息，据央视新闻报道，日前，欧洲议会议员和欧盟成员国就修订《人工智能法案》达成共识，同意禁止AI生成“深度伪造”的色情内容。
据了解，这一禁令将被纳入2024年通过的《人工智能法案》修订条款，意味着欧盟将在法律层面对相关AI滥用行为划出明确红线。
欧洲议会议员迈克尔·麦克纳马拉表示，这是欧盟首次通过立法明确禁止“脱衣换脸”类应用程序。
他强调：“欧盟今天划定了‘红线’。人工智能绝不能用于羞辱、剥削或危害他人。”
近年来，AI深度伪造色情内容引发全球关注。
今年1月，马斯克旗下社交媒体平台X的AI聊天机器人Grok，就曾被部分用户滥用于生成色情内容，并被推上舆论风口浪尖。
根据人工智能取证组织报告，2025年12月25日至2026年1月1日，在Grok以深度伪造方式生成的2万张图像中，55%的人物图像穿着暴露，其中81%是女性，另有2%的图像中人物年龄不足18岁。
在持续数周的舆论压力下，X于1月14日宣布对Grok采取限制措施，禁止该功能生成真人裸露图像。
X平台安全团队表示，已实施技术措施，防止Grok账号允许编辑真人穿着比基尼等暴露服装的图像，该限制适用于所有用户，包括付费订阅用户。
此外，该团队还称，正在全天候工作以增设防护措施，移除违规及非法内容，在必要时将永久封禁账户并与当地政府及执法部门开展协作。
AI生成
