최근 조사 결과 학계에서 커다란 우려가 부각되고 있습니다. 전문가들의 글 중 최대 다섯 퍼센트가 인공지능에 의해 생성된 텍스트 일부를 포함할 수 있다는 추정도 있으며, 그 영역에는 사기적 이미지가 포함될 수 있습니다. 이 같은 위조 탐지자들인 과학 출판계에서의 “수사꾼”들은 최신 기술 발전에 발 맞추기 어려움을 겪고 있습니다.
과학 저널 한 곳에서는 발행 과정 중 해부학적으로 정확하지 않은 쥐의 그림이 실수로 게재되었던 일이 있었습니다. 해당 그림은 실제로 Midjourney라는 AI 도구에 의해 디자인된 것으로, 쥐의 해부학적 부위가 매우 잘못 라벨링되어 있었습니다. 이 같은 명백한 오류에도 불구하고 이 그림은 “Frontiers in Cell and Development Biology”에 발표된 연구에 포함되었습니다. 지적을 받은 이 출판물은 출판사에 의해 회수되었습니다.
사기적인 과학적 그림들을 추적하는 데 유명한 미생물학자인 엘리자베스 비크는 이 같은 명백한 위조물이 품질 점검을 통과하는 방식에 의아해합니다. 스탠포드 대학에서 프리랜서로 일하며 기부를 받아 생계를 이어가는 것으로 전환한 비크는 보다 설득력 있는 AI 생성 이미지들이 이미 주목받지 않은 채 학문적 문헌에 침투했을 수 있다는 우려를 품고 있습니다.
비크와 함께 사기적 AI 사용에 대항하는 노력을 하는 사람이 더 있습니다. 툴루즈 대학의 컴퓨터 과학자인 기옴 카바낙은 논문 텍스트 내 사생활을 추적합니다. 그는 최근에 AI 대화형 봇이 출력할 것과 유사한 문장으로 시작하는 논문을 소개했는데 이것은 저자들에 의해 배제되지 않았으며 심사관들에게도 잡히지 않았습니다.
카바낙이 영접하는 부정 행위는 가장 명백한 사례에만 해당하는 것으로 보이지만, 그와 비크는 AI를 통한 학문적 부정행위 탐지에 대한 까다로움을 경고하고 있습니다. 일부는 AI가 영어를 사용하지 않는 연구자들에게 글쓰기를 개선하는 데 도움을 줄 수 있다고 주장하지만, 카바낙은 학술 글쓰기에 AI 도구를 사용할 때 명확한 투명성을 갖추어야 한다고 주장합니다. AI에 의한 위조 콘텐트가 명확한 인정 없이 포함되는 것은 받아들일 수 없는 학문적 행태입니다.
중요한 질문과 답변:
1. 학술 논문에서 AI 생성 콘텐트를 탐지하는 데 중요한 도전과제는 무엇인가요?
주요 도전과제에는 AI로 생성된 텍스트와 인간이 생성한 텍스트를 구별하는 것이 포함됩니다. 특히 AI가 더 복잡해짐에 따라 인식하기 어려워질 수 있습니다. 게다가 AI로 생성된 이미지를 식별할 표시물이나 워터마크가 없을 수도 있습니다. 학술 심사자와 편집자들은 또한 이러한 새로운 속임수를 인식하기 위해 준비되어 있지 않을 수 있습니다.
2. 학술 출판에서 AI 사용과 연관된 논란은 무엇인가요?
주요 논란은 AI를 사용하여 내용을 생성할 때 투명성 문제에 대한 윤리적 문제를 중심으로 하며, 과학적 토론 내에 부정확하거나 조작된 정보를 초래할 수 있다는 점입니다. AI 지원이 도구인지 부정행위인지에 대해 논쟁이 있습니다.
3. 학술 논문에서 AI 생성 콘텐트 사용이 우려스러운 이유는 무엇인가요?
학술 논문이 과학적 지식에 기여하는 바를 생각하면, 부정확하거나 거짓 정보가 대단한 결과를 초래할 수 있으며, 연구, 정책 결정 또는 의료 실천을 오도할 수 있습니다.
장단점:
장점:
– AI는 특히 언어 장벽이 있는 연구자들에게 더 명확하고 포괄적인 텍스트를 작성하는 데 도움을 줄 수 있습니다.
– 연구 결과의 보다 신속한 보급을 허용하여 연구 결과의 보급 속도를 높일 수 있습니다.
단점:
– AI로 생성된 콘텐트는 학술 레코드의 무결성과 신뢰성을 훼손할 수 있습니다.
– 알려지지 않은 잘못된 정보나 부정확한 정보를 전파할 수 있습니다.
– AI에 대한 의존이 연구자들의 글쓰기 기술 발전을 약화시킬 수 있습니다.
AI와 학문적 정직성에 관한 더 많은 정보는 학술 저널들의 주요 기관 및 AI 윤리 전문 기관의 도메인에서 확인할 수 있습니다. 예를 들어:
이 링크를 방문하여 문제에 대한 저널, 관점 및 의견들을 살펴보세요. 각 웹사이트는 과학적 출판 및 신흥 기술 및 그들의 함의에 대한 논평을 위한 존경받는 출판매체입니다.
The source of the article is from the blog macnifico.pt