AI技术的奇迹似乎几乎可以被视为神奇，但我们必须记住，像ChatGPT这样的系统本质上是数学机器，它们预测单词或像素的序列。 AI初创公司Alembic的产品总监Jayden Ziegler澄清说，这些语言模型缺乏对自己知识或可能持续存在的偏见的理解，显示出无法区分有偏见和无偏见，以及包容和排外内容的固有无力。
反映社会偏见
在默认状态下，如果有人向AI提出要求提供公司高管的图像，结果往往会偏向展示身穿商务套装的白人男性的图片。得克萨斯州人权非政府组织主管Joshua Weaver表示，这些模型只是反映了我们的历史和文化。
偏见的挑战
一个律师强调的风险是，我们可能会陷入一个恶性循环，其中偏见被嵌入到AI中，从而强化我们存在的观念。通过用无偏数据完全重新训练基础模型是一个艰巨的任务，既昂贵又耗时，尤其考虑到缺乏大规模的“中立”信息集。
为了抵消这一点，公司试图通过制定规则来“调整”模型的价值观。许多聊天机器人已被编程以避免表达它们无法体验的情绪，并产生更多样化的结果。Alembic的联合创始人Tomás Puig将其比喻为在AI上设置社会过滤器。
技术创新和教育
当谷歌的Gemini服务对特定图像请求产生历史性不准确的结果时，这种方法的局限性显而易见。AI平台Hugging Face的Sasha Luccioni表示，随着科技巨头不断推动AI的界限，优先考虑技术解决方案可能是错误的。
现在的紧要任务是教育人们了解这些工具，这些工具可能被误认为具有意识。Joshua Weaver主张常识，并呼吁拥有更多种族多样化的工程团队。
进步和探索
OpenAI的ChatGPT等突破使人们产生了这样一个问题，即它是否能准确解释不同文化背景下的面部表情。虽然生成式AI仍处于萌芽阶段，但像Pinecone这样的初创公司正在开创“RAG”（检索增强生成）来完善AI助手的数据库。
所提到公司的首席技术官Ram Sriharsha通过将法律AI助手比作可以访问并应用大量案例法律信息的百科全书式律师来说明其潜力。
了解AI语言模型的局限性
AI语言模型基于大量的训练数据运行，但它们不具有意识、自我意识或真正理解意义的能力。一个重要的局限性是这些模型无法像人类那样推理或运用常识。它们通过识别数据中的模式进行预测，如果这些模式与现实不符，有时可能导致毫无意义或事实错误的输出。
主要挑战：偏见和代表性
一个主要的挑战是确保AI语言模型不会传播或放大社会偏见。由于这些模型的训练数据通常来自反映历史和文化偏见的互联网，因此AI会学习复制这些模式。努力创建更少有偏见的AI常涉及筛选训练数据或实施额外的规则层来指导AI的响应。
争议：道德应用和信息误传
围绕AI语言模型的道德应用及其在传播误信息方面的作用存在争议。由于这些模型可以生成令人信服的叙述，因此存在使用它们创造和传播虚假新闻或操纵公众舆论的风险。
AI语言模型的优势：
- 效率：AI可以以人类无法比拟的速度处理和生成文本。
- 可扩展性：技术的进步使AI能够处理广泛的任务，从客户服务到内容创作。
- 成本效益：企业可以利用AI来自动化重复性任务，从而节省人力成本。
AI语言模型的缺点：
- 缺乏慎重：AI可能会在没有额外限制的情况下无法区分适当和不适当的内容。
- 工作被取代：对自动化过度依赖可能导致人类工作者的机会减少。
- 错误潜力：AI的错误可能会根据应用领域造成严重后果。
为了应对这些挑战，享受AI的好处同时减少其缺点，有必要在技术专家、伦理学家、政策制定者和大众之间保持持续的对话。
至于更多信息，您可以访问知名AI研究机构和公司的主要领域，了解更多关于AI语言模型的信息：
– OpenAI
– Hugging Face
– Alembic
– Pinecone
– Google
在使用前，请确保上述提供的URL是有效的，并指向各个组织的主要域名。
The source of the article is from the blog rugbynews.at