在一个旨在提高意识的大胆艺术展示中，德国艺术家马蒂亚斯·维夫（Mathias Vef）和设计师本尼迪克特·格罗斯（Benedikt Groß）创造了Nuca，一个概念相机，利用人工智能（AI）生成具有说服力的人体裸露图像，而这些图像并未经过当事人的同意。Nuca看起来像是一台复古尼康（Nikon）紧凑相机，它拍摄照片并将其发送到云端，那里的AI算法分析大量的身体标记，以数字方式“剥光”照片的主题，小心翼翼地使用其真实面孔重新构建裸体肖像。
幸运的是，Nuca并非出售商品。相反，它作为一个展品，将在本夏季在柏林展出，旨在促进公众对通过深度伪造技术轻松创建未经同意的裸体图像的讨论。
术语“深度伪造裸照”指的是一种数字过程，利用AI更改图像，通常是基于在社交媒体上分享的照片，剥去主题的衣物。这种不断增长的现象在2019年至2023年间增长了惊人的550％，其中绝大多数深度伪造图像都是涉及女性未经同意的色情性质。
这项技术带来伤心的一个例子是在BBC播客中报道的乔迪（Jodie）的故事。当一位信任的朋友制作并传播了一张乔迪的深度伪造裸照时，乔迪遭受了背叛和情感创伤，导致隐私被侵犯和严重心理困扰。
尽管存在这些危险，针对AI生成的裸体图像的具体法律保护仍然不足。尽管意大利总理梅洛尼领导下的政府正在为即将出台的人工智能法律中制定反深度伪造条款，但目前的法律框架，特别是刑法典第600条，主要提供对未成年人的保护。所需的立法将惩罚滥用AI生成欺骗性图像以谋求非法利益，但在这些法规出台之前，公众意识和谨慎至关重要，以减少深度伪造裸照的传播和影响。
当前市场趋势
与人工智能和深度伪造技术相关的市场趋势表明，机器学习算法正在迅速发展，可以生成高度逼真的图像和视频。这种技术正在变得更加易于获得和使用，助长了用于创建虚假内容（包括未经同意的亲密图像）的潜在滥用。随着AI技术的不断发展，它被用于有害方式的能力也在增强，导致了虚假裸体图像的创作和传播有所增加。
预测
随着AI技术的日益复杂，深度伪造的普及预计将增加。预测还指出，将会有大量工作致力于开发检测和预防工具。专家认为，围绕数字同意和图像权利的法律框架将会发展，以更好地保护个人免受未经授权创作和传播深度伪造内容的伤害。此外，AI伦理和治理可能会成为热门话题，因为社会在处理这一技术带来的影响方面将面临挑战。
与主题相关的主要挑战或争议
围绕AI生成的虚假裸照的主要挑战包括同意和隐私方面的伦理考量，受害者的心理影响，以及该技术的法律冲击。争议往往集中在技术创新与个人安全权利之间的平衡。由于互联网提供了匿名性，识别深度伪造的制作者并使其承担责任也是一个重要挑战。
与主题相关的紧迫问题
– 个人如何保护自己免受深度伪造裸照的侵害？
– 是否有可用的工具用于检测一张图像是否是使用深度伪造技术创建的？
– 政府和监管机构在遏制深度伪造裸照传播方面应该扮演怎样的角色？
– 技术公司如何确保其AI创造物得到道德和负责任地使用？
优势和劣势
优势：
– 深度伪造技术可用于创意活动，例如在电影和娱乐行业中用于逼真的特效。
– 它可用于教育目的，例如为交互式学习重新创造历史人物。
劣势：
– 它可能被恶意使用来创建未经同意的虚假裸照，导致情感困扰和人格诽谤。
– 深度伪造可能降低公众对媒体的信任，并成为传播错误信息的工具。
– 它带来法律和伦理挑战，当前的法律可能无法完全应对。
有关深度伪造和人工智能伦理的更详尽信息，您可以访问技术法律和伦理论坛的建立领域在ACLU和IEEE上。请确保直接通过它们的主页访问这些网站，以获取关于人工智能和隐私权利的相关信息。
The source of the article is from the blog combopop.com.br