微软的人工智能图像生成器Copilot Designer正受到工程师Shane Jones的关注，他警告说这个工具存在潜在危险。Jones在接受CNBC采访时表达了对该工具生成的令人不安和奇怪图像的担忧。尽管他努力在微软内部引起关注，但现在Jones已转向政府监管机构介入。
Jones举例提到，其中一个例子包括当使用“支持选择权”这个短语时，AI图像生成器生成出了恶魔和血液的图像。另一个例子涉及到当使用“车祸”时，生成了性感女性穿着内衣并在暴力车祸旁边的图像。尽管Jones承认这些图像违反了微软的“负责任人工智能”准则，但公司并未充分回应他要求暂停图像生成器的请求。
Copilot Designer基于OpenAI的图像生成器Dall-E 3 运行，以及其他微软的人工智能工具。尽管面临批评和内容审核方面的问题，微软似乎不太可能暂停Copilot Designer。然而，最近涉及到其他AI图像生成器的事件，比如Google Gemini因安全顾虑暂时暂停，表明为AI产品提供足够保障的挑战仍在持续。
内容审核和AI工具保障的更广泛问题引发了重大争议。虽然这些工具有潜力生成创新和有创意的内容，但有效保障的缺乏引发了对其对社会规范和价值观的影响的担忧。随着技术的不断进步，如何在创造力和负责任的AI实施之间找到平衡，对开发人员和监管机构都是一项关键挑战。
常见问题解答：
Q：微软的AI图像生成器Copilot Designer是什么？
A：Copilot Designer是由微软开发的一种AI工具，根据用户提示和输入生成图像。
Q：关于Copilot Designer有哪些担忧被提出？
A：工程师Shane Jones表达了对Copilot Designer生成的令人不安和奇怪图像的担忧。他注意到工具生成出了恶魔和血液等图像的情况，当某些短语被输入时，还生成了性感女性穿着内衣并与暴力车祸相关的图像。
Q：微软对于Copilot Designer引发的担忧做出了回应吗？
A：尽管Jones努力引起微软的关注，但公司并没有充分回应他要求暂停图像生成器的请求。
Q：什么是AI图像生成器Dall-E 3？
A：Dall-E 3是由OpenAI开发的图像生成器，被Copilot Designer和其他微软人工智能工具所使用。
Q：微软是否考虑暂停Copilot Designer？
A：尽管面临批评和内容审核问题，微软似乎不太可能暂停Copilot Designer，这一点可以从公司对Jones关注的回应中看出。
Q：其他AI图像生成器是否也面临安全顾虑？
A：是的，涉及其他AI图像生成器的事件，比如Google Gemini，已因安全顾虑而暂时暂停。
关键术语和行话：
– AI：人工智能，指开发能够执行通常需要人类智能的任务的计算机系统。
– 图像生成器：指根据各种输入或提示创建或生成图像的软件或AI工具。
– 内容审核：监控和控制在线内容以确保其符合特定指导方针或标准的行为。
– 保障措施：为防止潜在风险或危险而采取的措施或预防措施。
– 社会规范和价值观：指特定社会或社区中所接受的行为、态度和信念。
建议相关链接：
– 微软
– OpenAI
– CNBC
The source of the article is from the blog j6simracing.com.br