在人工智能（AI）迅速发展的世界中，谷歌的 Gemini chatbot 事件揭示了在科技工具中消除文化偏见的挑战。这款聊天机器人生成了黑人和亚洲纳粹士兵的形象，引发了愤怒情绪，并凸显了未经检查的AI权力潜在后果。
谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）谴责了 Gemini AI 应用程序所犯的错误，承认生成的图像在历史上是不准确的，并倡导暂停生成人物图片。这起事件引起的公众反应提醒了我们少数科技巨头对拥有重塑社会潜力的 AI 平台的巨大影响。
律师兼技术企业家乔舒亚·韦弗（Joshua Weaver）将谷歌的行动描述为过于“唤醒”，暗示该公司在试图优先考虑包容性和多样性方面走得太远。虽然谷歌迅速纠正了错误，但瓦尔基里应用科学实验室（Valkyrie applied science lab）的首席执行官查理·伯戈因（Charlie Burgoyne）认为这些修正仅仅解决了表面问题，未能解决根本问题。
谷歌与其他科技巨头现在与微软、OpenAI 和 Anthropic 等公司展开了 AI 竞赛。这种竞争加剧，让公司很少有时间在较长时间内完善其产品。在追求文化敏感性时犯下的错误成为重要的争议焦点，特别是在美国政治上存在分歧的氛围下。
随着 AI 越来越多地生成大量信息，谁控制 AI 保障措施的问题变得至关重要。误传和偏见放大的潜力引发了对控制 AI 系统的人员所拥有的影响权的担忧。最近的失误使专家们质疑用户对 AI 工具及其生成信息的控制程度。
屡获殊荣的混合现实创作人凯伦·帕尔默（Karen Palmer）推测未来 AI 可能会影响重大决策，如将有违规的个体转移到警察局，而非其预定目的地。AI 模型的培训极大地依赖现有数据，这些数据天然包含偏见、社会不平等和错误信息。
致力于重新平衡算法以反映人类多样性的工程师们面临着巨大挑战。科技律师亚历克斯·沙赫雷斯塔尼（Alex Shahrestani）强调了检测和解决偏见的困难，因为即使怀着良好意图的工程师们也受到自身生活经历和潜意识偏见的影响。此外，生成式 AI 模型内部运作的不透明性加剧了问题，使用户难以识别其中的隐性偏见。
专家和活动家呼吁 AI 开发团队更加多样化，并增加有关 AI 工具运作方式的透明度。必须吸纳来自世界各地不同社区的观点，并构建道德地利用其数据的算法。这种方法由原生 AI 等组织采用，对科技行业观察到的自上而下的方式进行了反击，推动了包容和具有文化敏感性的 AI 发展。
谷歌的 Gemini chatbot 事件应该是科技行业优先考虑文化敏感性和多样性在 AI 工具中的重要性的警示。通过直面这些挑战并在整个开发过程中吸收广泛的观点，该行业可以将偏见风险降到最低，并增强 AI 技术的积极影响。
常见问题解答：
- 围绕谷歌的 Gemini chatbot 的争议是什么？
Gemini chatbot 生成了黑人和亚洲纳粹士兵的图像，引发了对历史事实不准确描绘的愤怒。 - AI 工具中的文化偏见为何是一个重要问题？
AI 模型大量依赖现有数据，这些数据往往包含偏见、社会不平等和错误信息。AI 工具中未经检查的偏见可能会持续歧视并放大社会中已经存在的偏见。 - AI 开发人员如何应对文化偏见？
专家主张多样化 AI 开发团队，吸纳各种观点。此外，AI 工具运作方式的透明度至关重要，以发现和解决隐藏的偏见。 - 未经检查的 AI 权力有什么后果？
AI 有重塑社会和影响重要决策的潜力。未能解决偏见并实施适当保障措施会导致 AI 系统中的不公平待遇、错误信息和缺乏问责制。
The source of the article is from the blog regiozottegem.be