로만 얌폴스키, AI 연구자로서, 인류가 멸망으로 이끌 수 있는 AI의 잠재력에 대한 우려를 제기하며, 이러한 비극적 결과의 가능성을 충격적으로 99.9%로 평가하고 있습니다. 안전한 AI 모델에 대한 믿음과는 대조적으로, 얌폴스키는 존재하는 버그가 없는 모델의 부재와 미래 모델이 완벽할 확률이 낮다는 점을 강조하고 있습니다.
최근에 나온 팟캐스트 에피소드에서, 렉스 프리드만은 다양한 AI 엔지니어들의 관점을 탐구하고, 대부분의 사람들이 AI가 결국 인류 멸종을 초래할 가능성을 1%에서 20%로 추정하고 있습니다. 예측의 차이는 질문 방식에 따라 다르며, AI의 위험을 평가하는 복잡성을 강조하고 있습니다.
얌폴스키, 루이빌 대학의 컴퓨터 과학 교수이자 “AI: 이해할 수 없는, 예측할 수 없는, 통제할 수 없는”의 저자는 프리드만과의 대화에서 AI 발전에 의해 가해질 수 있는 위험의 중요성을 강조합니다. 그는 인류의 운명이 다음 세기 안에 본질적으로 완벽하고 지나치게 복잡한 소프트웨어를 만드는 능력에 달려 있다고 주장하며, 이는 계속되는 취약성과 관련된 인간 중심 AI 설계의 고집 때문에 그런 일이 어렵다고 말합니다.
지난 몇 년 간에, AI 기술의 발전은 악용 및 정보의 오용의 조짐을 보여주었습니다. 딥페이크 콘텐츠의 확산에서부터 정치적 사건에 영향을 미치는 AI 생성 정보의 영향까지 다양한 경고 신호가 나타났습니다. 특히, 구글의 제미니 AI 모델 기반 기능인 “AI 개요”는 피자를 만들 때 접착제를 사용하거나 “K”로 시작하는 아프리카 국가가 없다고 주장하는 등 무의미한 답변을 내놓아 주목을 받았습니다.
얌폴스키는 AI 발전을 효과적으로 통제하기 위한 지속적인 안전 메커니즘의 필요성을 강조하고 있습니다. OpenAI의 샘 알트만과 같은 산업관계자들에 의한 샌드박스 규제 제안에도 불구하고, AGI(인공 일반 지능)의 예측불가능한 성격은 뚜렷한 도전 과제로 남아 있으며, 얌폴스키는 높은 지능 시스템의 잠재적 파생물을 과소평가해서는 안 된다고 경고하고 있습니다.
추가 사실:
– AI가 노동 시장에 미치는 잠재적 영향은 적지 않으며, 자동화로 인해 다양한 부문에서 수백만 개의 일자리가 사라질 수 있다는 추정이 있습니다.
– AI 시스템은 그들이 훈련받은 데이터를 기반으로 편견을 나타내어, 고용, 대출 관행 및 형사 사법과 같은 분야에서 차별을 야기할 수 있습니다.
– AI에 의해 구동되는 자율 무기의 개발은 인간 개입 없이 생사 결정을 내릴 수 있는 가능성에 대한 윤리적 문제를 제기합니다.
주요 질문:
1. AI 개발의 윤리적 함의를 해결하기 위한 조치는 무엇인가요?
2. AI 시스템의 의사 결정 프로세스에서 투명성과 책임을 어떻게 보장할 수 있나요?
3. AI의 널리 퍼져간 채택이 사회적 불평등과 직업 이탈에 미칠 영향은 무엇인가요?
장점:
– AI는 다양한 산업을 혁신시키는 잠재력을 지니고 있어 효율성, 생산성 및 혁신을 향상시킬 수 있습니다.
– AI 기술은 의료, 기후 변화 및 재난 대응과 같은 분야에서 복잡한 문제를 해결하는 데 도움을 줄 수 있습니다.
– AI를 통한 자동화는 비용 절감과 제품 및 서비스의 품질 향상을 이끌어 낼 수 있습니다.
단점:
– AI 기술의 오용은 개인 정보, 보안 및 민주주의에 상당한 위험을 낳을 수 있습니다.
– AI 시스템은 주의 깊게 설계되고 모니터링되지 않을 경우 기존의 편견과 불평등을 보존할 수 있습니다.
– AI의 신속한 발전은 규제 프레임워크를 앞지르는 동시에 책임 있는 개발 및 배포를 보장하는 데 어려움을 가져올 수 있습니다.
관련 링크:
– 전자 국경 네트워크
– 미국 인공 지능 협회
– 마틴 학교
[임베드]https://www.youtube.com/embed/3uLDin9A9pc[/임베드]