뉴욕시 메이어 에릭 아담스가 최근 도시의 새로운 인공지능 챗봇에 문제가 있다고 인정했습니다. 이 챗봇은 사업주들에게 잘못된 답변을 제공하고, 이로 인해 법적 위반 가능성이 있는 조언을 하는 데 대한 비판을 받았습니다. 지난 10월에 시범 프로그램으로 소개된 ‘마이시티(MyCity)’ 챗봇은 사업주들이 질의에 대해 정확하고 실행 가능한 정보를 제공하는 것을 목표로 하였습니다.
그러나 The Markup의 조사 저널리스트들은 이 챗봇이 잘못된 정보를 자주 제공했다는 것을 발견했습니다. 이 챗봇은 고용주들에게 자신들의 직원 팁 일부를 가져갈 수 있다고 잘못 지시하고, 고용주가 근무 일정 변경을 직원에게 통지할 법규가 없다고 잘못 진술했습니다.
이러한 문제를 인정한 민주당 소속인 메이어 아담스 시장은 이 문제를 해결할 필요성을 강조하며, 이 챗봇이 여전히 개발 초기 단계에 있다는 점을 강조했습니다. 그는 현실 세계 시나리오에서 기술을 시험하여 발생할 수 있는 결함을 식별하고 바로 잡는 것이 중요하다고 인정했습니다.
챗봇은 온라인에서 계속해서 접근할 수 있지만, 가끔씩 잘못된 답변을 제공합니다. 예를 들어, 상점 주인들이 현금을 거부할 수 있다고 주장하는데, 2020년 이후로 이를 금지하는 시의회 법이 존재하는 것을 모르고 있습니다. 또한, 2024년 뉴욕시의 최저시급 인상에 대해 잘못 언급하여 $15로 명시했습니다.
이 챗봇은 Microsoft의 Azure AI 서비스를 기반으로 하지만, 발생한 오류들은 ChatGPT와 같은 생성형 AI 기술 플랫폼과 일반적으로 관련이 있다. 이러한 플랫폼은 때로 정보를 날조하거나 괜히 자신감을 가지고 거짓 정보를 주장하기도 합니다. 마이크로소프트나 시청이 이러한 오류의 원인이나 해결책에 대한 문의에 답변하지 않았습니다.
이러한 우려를 해소하기 위해, 도시는 ‘마이시티’ 챗봇 웹사이트의 면책 조항을 업데이트하고, 그 응답이 부정확하거나 불완전할 수 있다는 점을 경고하며, 비즈니스들이 그 응답에 법적이나 전문적인 조언을 의존하지 말아야 한다고 조언합니다.
앤드류 리지, 뉴욕시 호텔리티 얼라이언스의 이사장으로서 수천 명의 레스토랑 소유주들을 대표하는 인물은 도시가 AI 기술을 활용하여 사업주들을 지원하려는 시도를 칭찬하지만, 신뢰성이 필요하다고 강조했습니다. 그는 챗봇의 잘못된 지침을 따르는 것으로 인해 사업주들이 직면할 수 있는 법적 결과에 대한 우려를 표명했습니다. 그는 챗봇으로부터 답변을 받은 후 법률 전문가와 상의하는 것이 그 목적을 무효화시킨다는 것을 강조했습니다.
마이시티 챗봇은 사업주들에게 빠르고 쉬운 정보를 제공하려는 혁신적인 시도이지만, 현재 목표를 달성하는 데 실패하고 있습니다. 아담스 시장과 관련 이해관계자들은 문제를 해결하고 챗봇의 정확성과 신뢰성을 향상시키기 위해 노력해야 합니다.
자주 묻는 질문 (FAQ)
The source of the article is from the blog guambia.com.uy