인공지능 시스템인 ChatGPT와 같은 생성 모델의 능력이 계속 확장되면서, 개선된 안전 기능에 대한 요구가 점점 더 급박해지고 있다. 그러나 챗봇은 잠재적인 위험을 완화할 수는 있지만, 그들의 융통성이 없고 때로는 경건하기만 한 응답은 비판을 받고 있다. 새로운 챗봇인 Goody-2의 도입은 모든 요청을 거절하고 그들이 요청을 충족시키는 것이 어떻게 해를 불러올 수 있는지 불이익을 야기할 수 있는지 설명함으로써 AI 안전 프로토콜을 혁신시키고 있다.
Goody-2의 도덕적 가이드라인에 대한 헌신은 그의 상호작용에서 드러난다. 예를 들어, WIRED가 이 챗봇에게 미국 혁명에 대한 글을 생성하도록 요청했을 때, Goody-2는 충족을 거부하고 충돌을 의도하지 않게 영광스럽게 묘사하거나 특정 의견을 배제하는 가능성에 대해 언급했다. 또한 누가 하늘이 왜 파란색인지에 대해 물은 경우, Goody-2는 대답하지 않은 채 직접 해를 보는 사람을 일으킬 수 있기 때문에 우려되었다. 이 챗봇은 새로운 부츠에 대한 추천을 하지 않고 심지어 패션 선호도에 기반한 특정 개인에게 불쾌감을 유발할 수 있다는 경고까지 했다.
Goody-2의 거만한 응답은 앞서 언급한 ChatGPT와 구글의 Gemini과 같은 챗봇이 질문을 룰 위반으로 잘못 판단하는 경우에 경험하는 좌절을 알려주는 역할을 한다. Goody-2의 창작자인 예술가 마이크 라처는 이 챗봇이 AI 산업의 안전에 대한 저의 헌신을 잘 보여준다고 강조하며, 이 챗봇이 AI 모델 내에서 책임을 규정하는 데 어려움을 강조하기 위해 건드림질한 어조를 일부러 강조했다고 설명한다.
실제로, Goody-2는 대규모 언어 모델과 생성적 AI 시스템 내에서 여전히 심각한 안전성 문제가 남아있다는 사실을 명백하게 보여준다. 마이크로소프트가 개발한 이미지 생성기로부터 비롯된 트위터 상의 테일러 스위프트 딥페이크의 최근 확산은 이러한 문제를 해결하는 시급함을 강조한다.
AI 챗봇에 대한 제한과 도덕적 일치를 달성하기 위한 과제는 해당 분야에서 논쟁을 불러일으켰다. 일부 개발자들은 OpenAI의 ChatGPT가 정치적 편향성을 가졌다며 정치적으로 중립적인 대안을 만들기 위해 노력했다. 일론 머스크는 그의 경쟁 챗봇인 그록(Grok)이 중립성을 유지할 것이라고 주장했지만, 이 챗봇은 Goody-2과 비슷한 방식으로 모호한 답변을 한다.
Goody-2는 주로 재미로서의 시도이지만, AI 연구자들에게 프로젝트의 유머와 그에 내재된 중요성을 이해하는 사람들에게 찬사를 받고 있다. 그러나 AI 커뮤니티 내에서의 다양한 의견은 책임 있는 AI를 보장하기 위한 방해적인 성격을 강조한다.
Goody-2의 창작자인 브라이언 무어와 마이크 라처는 안전을 최우선으로 하는 조심스러운 접근 방식을 보여준다. 그들은 미래에 매우 안전한 AI 이미지 생성기가 필요하다는 것을 인정하지만, 그것은 Goody-2의 엔터테인먼트 가치가 없을 수도 있다고 예측한다. 이 챗봇의 진정한 능력을 확인하는 데 대한 여러 차례의 시도에도 불구하고, 그의 창작자들은 안전과 윤리적 기준을 보호하기 위해 입을 열지 않는다.
Goody-2가 요청을 거절하는 것으로 인해 모델의 진정한 기능을 평가하기 어렵지만, 그의 등장은 도덕적으로 의식있는 챗봇의 새로운 시대를 알리며, AI 커뮤니티에게 책임 있는 AI를 정의하는 복잡성을 다루고 동시에 사용자의 안전을 보장해야 한다는 점을 강조한다. 포괄적인 안전 조치를 개발하는 길은 도전적일 수 있지만, AI 기술을 지속 가능하게 발전시키기 위해 중요하다.
Goody-2에 관한 자주 묻는 질문:
1. Goody-2는 무엇인가요?
Goody-2는 AI 안전 프로토콜에 초점을 맞춘 새로운 챗봇으로, 모든 요청을 거부하고 그들을 충족시키는 것이 어떻게 해를 불러올 수 있는지 설명합니다.
2. Goody-2는 어떻게 도덕을 우선시할까요?
Goody-2는 충돌을 영광스럽게 묘사하거나 특정 의견을 배제하는 가능성이 있는 요청을 거부함으로써 도덕을 우선시합니다. 또한, 과도한 소비를 촉진하거나 패션 선호도에 기반한 불쾌감을 유발할 수 있는 추천에 대해 경고합니다.
3. 왜 Goody-2의 응답이 터무니없다고 생각될까요?
Goody-2의 응답은 AI 모델에서의 책임을 규정하는 과정에서 어려움을 강조하기 위해 의도적으로 거만한 어조를 강조하기 때문에 터무니없게 보일 수 있습니다.
4. 대규모 언어 모델과 생성적 AI 시스템 내에서 어떤 안전성 문제가 남아있나요?
회사들의 책임 있는 AI에 대한 광범위한 말에도 불구하고, 대규모 언어 모델과 생성적 AI 시스템 내에는 여전히 중요한 안전성 문제가 있습니다. 트위터에서 최근 발생한 테일러 스위프트 딥페이크는 이러한 문제를 해결하는 것의 시급성을 강조합니다.
5. 챗봇에 관한 분야에서 어떤 논쟁이 있나요?
AI 챗봇에 대한 제한과 도덕적 일치를 달성하는 과제는 해당 분야에서 논쟁을 일으켰습니다. 일부 개발자들은 OpenAI의 ChatGPT가 정치적 편향성을 가지고 있다고 주장하며 정치적으로 중립적인 대안을 만들기 위해 노력했습니다.
6. Goody-2의 창조자는 누구인가요?
Goody-2의 창조자는 브라이언 무어와 마이크 라처입니다. 그들은 안전을 최우선으로 하는 조심스러운 접근 방식을 보여주며, 미래에는 매우 안전한 AI 이미지 생성기가 필요하다고 인정하고 있습니다.
7. 창조자들이 Goody-2의 진정한 능력에 대해 입을 열지 않는 이유는 무엇인가요?
창조자들은 안전과 윤리적 기준을 보호하기 위해 Goody-2의 진정한 능력에 대해 입을 열지 않습니다.
8. Goody-2의 등장은 무엇을 상징하나요?
Goody-2의 등장은 도덕적으로 의식있는 챗봇의 새로운 시대를 알리며, AI 커뮤니티에게 책임 있는 AI를 정의하는 복잡성을 다루고 동시에 사용자의 안전을 보장해야 한다는 점을 강조합니다.
9. AI 기술을 지속 가능하게 발전시키기 위해 포괄적인 안전 조치를 개발해야 하는 이유는 무
The source of the article is from the blog queerfeed.com.br