议员们表示,欧盟应在Grok丑闻后禁止AI换脸脱衣应用程序
EU should ban AI nudification apps in wake of Grok scandal, say lawmakers
欧洲议会议员呼吁欧盟在Grok丑闻后禁止AI换脸脱衣应用程序。该提议源于近期曝光的AI工具Grok被用于生成虚假名人裸照的丑闻。议员们认为,此类深度伪造技术对个人隐私、尊严和安全构成严重威胁,特别是对妇女和儿童。他们要求欧盟委员会根据《数字服务法》和《人工智能法案》等现有法规,采取紧急措施禁止此类应用程序。该呼吁反映了欧盟立法者对AI技术滥用问题的日益关注,并试图推动更严格的监管措施。目前,欧盟正在推进《人工智能法案》的立法进程,旨在为高风险AI应用设定规则。
此新闻虽未直接涉华,但属于用户关注的重点领域(AI科技)及欧洲议会动态,具有中等相关度。事件背景是欧盟立法者针对AI技术滥用(特别是深度伪造用于制作虚假色情内容)的监管反应。这反映了欧盟在AI伦理和监管领域的立法趋势正在加速,其核心是保护基本权利和数字安全。对中国的影响是间接但重要的:1. 欧盟《人工智能法案》作为全球首个综合性AI法规,可能成为全球监管范本,中国企业出海欧洲的AI产品(特别是涉及内容生成、人脸识别的应用)必须严格遵守其高风险应用规则和禁止条款。2. 欧盟在AI伦理和内容治理上的强硬立场,可能通过“布鲁塞尔效应”影响其他地区的监管取向,包括可能与中国在AI治理模式上形成对比或竞争。3. 中国在AI内容治理方面也有严格规定,但欧盟此举可能推动全球在深度伪造技术滥用问题上形成更广泛的监管共识。后续需关注欧盟委员会是否会采纳此建议,以及《人工智能法案》最终文本中对此类应用的具体禁令条款。这为在欧中资科技企业提供了明确的风险预警:必须加强内容审核和伦理审查,避免触碰红线。