중요한 정리 작업에 대해, Apple은 아트 생성 소프트웨어로 위장된 최소 3개의 애플리케이션을 앱 스토어에서 제거했습니다. 이러한 앱들은 인스타그램과 성인 웹사이트 등 소셜 미디어 플랫폼에서 적극적으로 홍보되어 사진 속 주제를 디지털적으로 해체할 수 있다고 자랑했습니다.
제거된 애플리케이션들은 옷을 입은 사람들의 가짜 누드 이미지를 만드는 데 인공 지능을 활용했습니다. 실제 누드를 그리진 않았지만 조작된 이미지는 괴롭힘, 강요, 개인 정보 침해 등의 심각한 위협을 가져왔습니다. 매체 보도에 따르면, 404미디어가 앱의 존재 및 홍보 활동을 강조하는 비판적인 기사 이후 일정한 시간이 지난 후에 애플이 이러한 앱들을 제거했다는 것이 밝혀졌습니다.
놀랍게도, 이러한 앱들은 2022년부터 앱 스토어에 있었으며 ‘언드레스’ 기능을 약속하며 성인 콘텐츠 웹사이트에서까지 홍보했습니다. 특히 구글이 2024년에 플레이 스토어에서 해당 앱을 차단하기 전까지 이러한 앱 중 하나는 해당 플랫폼에서 광고를 계속했습니다.
애플이 관련 앱들을 마침내 제거한 조치는 스크리닝 프로세스에서의 취약점을 드러냅니다. 일부 개발자들이 이러한 루프홀을 악용한 사실은 상당한 우려를 불러일으킵니다. AI 기능의 새로운 기능을 iOS 18 및 Siri에 대해 선보일 것으로 예상되는 이 회사는 오는 6월 WWDC-세계 개발자 컨퍼런스에서 이슈로 떠오를 것입니다. AI와 관련된 사건이, 어떻게 애플이 AI 앱의 실행을 다루는지에 대한 산업의 관심을 끌 것으로 예상됩니다.
404미디어의 보도를 영감으로 한 기사입니다.
애플이 의문의 AI 앱을 제거한 결정은 콘텐츠 모니터링이라는 중요한 윤리적 책임을 강조합니다. 이를 통해 애플은 사용자의 안전을 보장하고 가짜 누드 이미지를 생성하는 AI 기술의 악용을 방지하는 가장 급박한 과제 중 하나에 대응했습니다. 이러한 앱들은 개인 정보 보안에 실질적인 위험을 안겼고 사이버 괴롭힘, 협박 또는 성희롱에 사용될 수 있었습니다.
이 주제와 관련된 주요 논란 중 하나는 AI 능력의 발전과 개인의 개인 정보보호 및 동의권 보존 사이의 균형입니다. AI는 창의성과 혁신에 대한 놀라운 기회를 창출할 수 있지만, 적절하게 규제되지 않으면 남용의 가능성도 제기됩니다.
애플의 스크리닝 프로세스는 보통 사용자 안전과 개인 정보 보호를 강조하지만, 효율성과 App Store에 대한 앱 검토 프로세스의 엄격성에 대한 의문을 제기했습니다. 회사가 새로운 AI 기능을 도입할 계획을 세우면서 이러한 루프홀을 줄이기 위해 증가된 검토를 받고 있습니다.
애플의 결정의 장점은 사용자 보호에 대한 끈질긴 약속을 강화하고, 다른 기술 회사들이 따르도록 전례를 제시하며, 앱 심사 프로세스의 개선을 격려할 수 있다는 것입니다. 그러나, 단점은 합법적인 앱의 감시 또는 억제, 또는 부정직한 개발자들이 콘텐츠 제재를 우회하기 위한 더 은밀한 방법을 개발하는 것 등이 포함될 수 있습니다.
Apple의 기준 및 App Store 콘텐츠에 대한 접근 방식과 관련된 자세한 정보는 Apple의 공식 웹사이트에서 확인하실 수 있습니다. 애플의 정책과 사용자 안전에 대한 약속은 브랜드와 사용자 신뢰에 꼭 필요한 것임을 이해하시기 바랍니다.
The source of the article is from the blog macholevante.com