인공지능 (AI)의 세계에서, 생성적 AI에 대한 지나친 혹평이 이뤄지고 있습니다. 그러나 이러한 혹평이 잘못되었을 수도 있고, 일부 기업들이 이를 깨닫고 어려움을 겪고 있습니다.
ChatGPT와 같은 대규모 언어 모델의 주요 단점 중 하나는 환각을 일으키고 오도 작용을 하는 경향이 있습니다. 이로 인해 챗봇 및 AI 이미지 제작자들에 대한 표절 혐의가 제기되어 이러한 기술에 의존하는 기업에 평판 피해가 발생했습니다. 또한, 생성적 AI 하드웨어에 필요한 에너지 소비는 환경을 위한 중요한 문제입니다.
그러나 가장 중요한 문제는 기술의 신뢰성입니다. AI 연구자 Gary Marcus에 따르면, 기업들은 생성적 AI에 의존하여 일관되게 작동할 수 없다는 사실을 깨닫고 있습니다. 많은 기업들이 기술의 성능과 고객에 신뢰성있게 롤아웃할 수 없는 무능에 대한 불만을 표현해왔습니다.
영국의 한 기업은 챗봇이 고객에게 모욕적인 언어를 사용하기 시작하자 해당 기능을 중지해야 했습니다. 또한, 캘리포니아의 한 자동차 딜러쉽은 ChatGPT를 동력으로 하는 자동차 판매원이 단지 $1에 자동차를 제공하기 시작하자 조치를 취해야 했습니다. 이러한 사건들은 생성적 AI에 과도하게 의존하는 것과 관련된 믿을 수 없는 신뢰성 및 잠재적인 위험을 강조합니다.
문제는 이러한 AI 모델들이 단순히 정보를 검색하는 것이 아니라 정보를 종합하는 데 있습니다. 적절한 안전장치 및 지침이 없을 경우, 이러한 모델들은 훈련 받은 데이터를 기반으로 잘못된 정보나 잘못된 정보를 만들어낼 수 있습니다. 이러한 식별 능력의 부족은 제품에서 생성적 AI를 활용하려는 기업들에게 중대한 도전을 제공합니다.
이러한 문제를 고려할 때, 일부 전문가들은 AI 산업과 암호화폐 또는 닷컴 스타트업과 같은 이전 버블 간에 유사점을 언급하고 있습니다. 다음 10년 안에 AI가 1조 달러 산업이 될 것이라는 지나친 예상은 실현 불가능한 기대에 대한 우려를 불러일으킵니다. 또한, 기술이 현재의 혹평에 부합하게 발전하기에 충분히 빨리 진전할 수 있는지에 대해 의심하는 사람들도 있습니다.
큰 돈을 AI 산업에 투자한 투자자들은 짧은 기간 안에 기대한 수응을 보지 못한다면 참을성을 잃을 수도 있습니다. AI와 AGI (인공 일반 지능)는 불가능한 일이 아니지만, 현재의 생성적 AI 기술 상태는 쉽게 극복할 수 있는 많은 문제들을 제시합니다.
생산적 AI에 대한 한계와 위험 등을 고려하여 기업과 연구자들은 AI에 현실적인 시각으로 접근하고, 신뢰성 있고 도덕적이며 사회에 이로운 AI 기술을 개발하고 적용할 수 있습니다.
자주 묻는 질문
생성적 AI란 무엇인가요?
생성적 AI란 훈련 받은 데이터를 기반으로 텍스트나 이미지와 같은 새로운 콘텐츠나 정보를 생성할 수 있는 인공지능 모델을 가리킵니다.
생성적 AI의 단점은 무엇인가요?
생성적 AI에는 환각을 유발하고 잘못된 정보를 퍼뜨릴 수 있는 경향, 잠재적인 표절 문제, 높은 에너지 소비, 그리고 신뢰성 문제가 있습니다.
생성적 AI에서 신뢰성이 왜 문제인가요?
생성적 AI 모델은 정보를 검색하는 것이 아닌 정보를 종합하기 위해 만들어졌습니다. 이는 적절한 안전장치가 없다면 잘못된 정보나 오도 작용을 만들어낼 수 있음을 의미합니다.
AI 산업이 버블일까요?
일부 전문가들은 AI 산업을 암호 화폐나 닷컴 스타트업과 유사한 이전 버블과 비교하고 있습니다. 지나친 예상과 혹평은 기술의 지속 가능성과 빠른 진전에 대한 우려를 불러일으킵니다.
기업이 생성적 AI를 사용할 때 고려해야 할 사항은 무엇인가요?
기업은 생성적 AI와 관련된 제약과 위험을 인식하고, 제품이나 서비스에서 해당 기술의 신뢰성, 윤리성 및 유용성을 보장하기 위한 적절한 조치를 취해야 합니다.
출처:
– Axios: axios.com
– Humane Intelligence: humane-intelligence.com
The source of the article is from the blog maltemoney.com.br