人工智能（AI）已经彻底改变了许多行业，包括图像创作。然而，随着科技公司进军AI图像创作领域，他们面临着重大挑战，正如Firefly、Adobe的AI图像创作工具所展示的那样。类似于Google的Gemini，Firefly因在生成的图像中不准确地描绘种族和民族特征而受到批评。
围绕Gemini的争议导致其被关闭，因为它创建了历史错误的图像，比如将美国的开国元勋描绘成黑人，同时拒绝描绘白人。Google的首席执行官桑达尔·皮查伊（Sundar Pichai）承认了这一错误，承认公司“犯了错”。
一个名为Semafor的测试组织发现，Firefly复制了Gemini犯下的许多错误。这两种工具使用类似的技术从书面文本创建图像，但是它们训练于不同的数据集。Adobe的Firefly专门在其训练过程中利用库存图像或经过许可的图像。
虽然Adobe和Google有着不同的公司文化，但核心挑战在于图像生成的核心技术。公司可以试图引导和塑造算法，但没有一种绝对可靠的方法来消除所有的不准确和偏见。
常见问题解答
1. Firefly都犯了什么样的错误？
Firefly生成的图像描绘了二战期间为纳粹德国作战的黑人士兵，并在描绘1787年开国元勋的场景中插入黑人男子和女子。它还制作了一位漫画人物的多个版本，包括一个老白人、一个黑人、一个黑人女子和一个白人女子。此外，它还创造了描绘黑人维京人的图像，类似于Gemini所做的。
2. 为什么会发生这些错误？
这些错误源于模型设计者努力避免传播种族主义刻板印象。通过确保代表多样化群体，如医生或罪犯，他们旨在挑战种族主义刻板印象。但是，当应用于历史背景时，这些努力可能被视为试图根据当代政治动态重写历史。
3. 这些挑战局限于Adobe或Google吗？
不，这些挑战不局限于特定的公司或模型。Adobe的案例表明，即使一家遵守准则的公司也可能遇到困难。确保全面的训练数据和解决AI系统中的偏见仍然是整个行业面临的普遍挑战。
Adobe已经采取了重要措施来减轻这些问题。公司训练其算法使用库存图像、公开授权内容和公共领域内容，以避免对其客户的版权侵权担忧。
尽管Adobe并没有就这个具体问题发表评论，但围绕AI图像创作的争议突出了科技公司在开发准确和无偏见的AI工具时面临的复杂性。这些挑战凸显了在AI开发和实施中需要持续改进和道德考量的重要性。
常见问题解答
1. Firefly都犯了什么样的错误？
Firefly生成的图像描绘了二战期间为纳粹德国作战的黑人士兵，并在描绘1787年开国元勋的场景中插入黑人男子和女子。它还制作了一位漫画人物的多个版本，包括一个老白人、一个黑人、一个黑人女子和一个白人女子。此外，它还创造了描绘黑人维京人的图像，类似于Gemini所做的。
2. 为什么会发生这些错误？
这些错误源于模型设计者努力避免传播种族主义刻板印象。通过确保代表多样化群体，如医生或罪犯，他们旨在挑战种族主义刻板印象。但是，当应用于历史背景时，这些努力可能被视为试图根据当代政治动态重写历史。
3. 这些挑战局限于Adobe或Google吗？
不，这些挑战不局限于特定的公司或模型。Adobe的案例表明，即使一家遵守准则的公司也可能遇到困难。确保全面的训练数据和解决AI系统中的偏见仍然是整个行业面临的普遍挑战。
定义：
– 人工智能（AI）：机器通过模拟人类智能过程，包括学习和解决问题的能力。
– AI图像创作：使用人工智能算法根据文本描述或其他输入生成图像。
– 种族和民族特征：与不同种族或民族群体相关联的身体特征。
– Gemini：谷歌的AI图像创作工具，因在生成的图像中不准确地描绘种族和民族特征而受到批评。
– 桑达尔·皮查伊：谷歌的首席执行官。
– Semafor：一家测试组织，发现Adobe的AI图像创作工具Firefly中存在类似的错误。
建议相关链接：
– Adobe.com
– Google.com
The source of the article is from the blog lokale-komercyjne.pl