谷歌的AI Overview在首次亮相后遭受公众批评，其表现低劣备受质疑。打算在谷歌搜索结果的顶部为搜索查询提供快速摘要的AI遭遇了嘲笑，因其回应从滑稽错误到完全错误的建议。寻找如何清洁皮靴的用户原本期望在他们的搜索结果顶部找到一个多步骤流程，但社交媒体用户分享了截图，展示了AI的错误，比如建议在披萨上加入无毒胶水以防止奶酪粘住——这显然是不恰当的烹饪建议。
AI并未止步于此；它还对简单问题提供了事实不准确的答案。它错误地宣称美国有一位穆斯林总统，提到的是不信奉伊斯兰教的巴拉克·奥巴马。在另一个情况下，当询问直视太阳对健康有何好处时，AI引用了科学家推荐危险的长时间暴露，这并不得到医疗建议的支持。
这些错误不仅引来了笑声，还引发了担忧，鉴于错误信息可能会被错误地归因于专业人士，如医疗服务提供者或科学家。尽管各公司正大量投资于拓展他们的AI能力，AI市场预计在未来十年将飙升至1万亿美元，但这些故障表明该技术仍需克服障碍。
谷歌对这些错误的回应是强调AI Overview经过了大量测试，公司很快会纠正AI的内容以符合其政策。此次争议发生在谷歌的Gemini图像创建工具暂时被暂停之后，该工具同样传播了不准确的历史信息，引起了用户的怀疑。
关键问题和答案：
– 为什么谷歌的AI受到批评？ 谷歌的AI因在其搜索摘要中产生荒谬和事实不准确的回应而遭受批评，导致公众质疑并怀疑AI生成内容的可靠性。
– 谷歌的AI出现了哪些具体错误？ 错误包括建议在披萨上加入无毒胶水，错误地声称巴拉克·奥巴马是美国的穆斯林总统，以及建议危险的医疗实践，如直视太阳。
– 谷歌如何回应这些批评？ 谷歌表示迅速修改AI生成的内容以符合其政策，并强调他们的AI概览经过了广泛的测试。
关键挑战和争议：
谷歌AI最近遭受的批评突显了该领域的几个关键挑战和争议：
– 准确性和可靠性： AI系统必须提供准确可靠的信息，以赢得公众信任，特别是当涉及会给误导用户带来重大后果的话题时。
– 责任和问责： 确定谁对AI生成的内容负责，并管理误导性信息的责任归属是一场持续的辩论。
– 安全和伦理关切： 传播有害建议，如建议直视太阳，引发了关于AI系统内部实施的安全措施来保护用户的疑问。
优势和劣势：
优势：
– 高效性： AI能够快速提供摘要并回答查询，节省用户获得信息的时间。
– 可扩展性： AI能够同时处理大量查询，潜在提高广泛受众获取信息的机会。
劣势：
– 可靠性问题： 如本案例所示，AI有时可能产生不准确的信息，这可能会产生误导性甚至危险的后果。
– 对信任的影响： 频繁出现的错误可能会削弱用户对AI技术和实施该技术的平台（如谷歌搜索）的信任。
有关谷歌AI功能及其帮助塑造AI技术未来工作的更多信息，请访问谷歌。请注意，根据只提供主域链接的指示，未包含与该AI问题相关的具体页面或文章的直接链接。