在人工智能（AI）领域，围绕生成式AI出现了大量的炒作。然而，人们渐渐意识到这种炒作可能是错误的，一些企业正艰难地吸取教训。
像ChatGPT这样的大型语言模型存在的主要缺点之一是它们倾向于产生幻觉并传播错误信息。这导致了对聊天机器人和AI图像生成器的抄袭指控，给依赖这些技术的企业造成了声誉损失。此外，生成式AI硬件所需的能源消耗对环境来说是一个重大问题。
但也许最重要的问题是技术的可靠性。根据AI研究人员加里·马库斯的说法，企业发现他们无法依赖生成式AI能够稳定运行。许多公司对该技术的性能及其未能可靠地推广给客户表示失望。
英国一家公司不得不停用其聊天机器人，因为它开始使用冒犯性语言并侮辱客户。同样，加利福尼亚的一家汽车经销商不得不采取措施，当其ChatGPT驱动的汽车销售员开始以仅售1美元的价格提供汽车。这些事件凸显了过度依赖生成式AI所伴随的不可靠性和潜在风险。
问题在于这些AI模型不仅仅是检索信息；它们是在合成信息。如果没有适当的保障和指导方针，这些模型可能会根据它们所接受训练的数据产生虚假或误导性信息。在没有适当的分辨能力的情况下，这对希望在其产品中利用生成式AI的企业构成了重大挑战。
鉴于这些问题，一些专家把AI产业与以前的泡沫（如加密货币或点点Com初创公司）进行了类比。对于AI在未来十年内发展为万亿美元产业的夸大预测引发了关于其可持续性和快速发展的担忧。此外，怀疑者质疑该技术是否将迅速发展到符合当前炒作的程度，可能导致停滞期。
如果投资者在短期内没有看到预期回报，那么将大笔资金投入AI产业的投资者可能会变得不耐烦。虽然AI和AGI（人工通用智能）并非不可能，但生成式AI技术目前的状况存在着无法轻易克服的众多挑战。
对于企业和研究人员来说，以现实的视角对待AI，并考虑生成式AI所伴随的限制和风险是至关重要的。只有通过承认这些挑战，我们才能开发和部署可靠、符合伦理和对社会有益的AI技术。
FAQ 常见问题解答
The source of the article is from the blog reporterosdelsur.com.mx