인공 지능 분야의 핵심 이해관계자들은 아동 학대물을 만들기 위한 인공 지능 기술 남용을 방지하기 위한 기념적 선언에 동참하기로 약속했습니다. 이 상징적인 협력은 인공 지능 분야에서의 책임 있는 발전을 선도하고 아동 성학대 자료(CSAM)의 생산과 싸우기 위한 그들의 집단적인 헌신을 상징합니다.
공표된 공동 선언은 일련의 최상위 AI 기업들의 헌신을 포함하고 있으며, 이들은 상징적인 동맹을 시사하여 디지털 아동 학대에 대항하기 위한 땅볼 동맹을 구축했습니다. 인ꢍ 조직인 실슬, 인간 노예 및 아동 음란물과 싸우는 조직, 기술의 책임 있는 발전을 지지하는 올 테크 이즈 휴먼 등이 아마존, 안소픽, 시비타이, 구글, 메타, 메타피직, 마이크로소프트, 미스트랄 AI, 오픈AI, 그리고 스태빌리티AI와 같은 산업 거물들 사이에 이 연합을 주도했습니다.
실슬은 이 동맹에 대한 기쁨을 표현했으며, 생성형 AI 기술이 더욱 보급되는 가운데 아동을 성폭행으로부터 보호하려는 산업의 중요한 한 걸음으로 평가했습니다.
이 약속의 성실함을 보장하기 위해 세 가지 핵심 전략이 제시되었습니다: 먼저, 아동 안전 위험에 적극 대응하는 생성적 AI 모델 생성; 둘째, 아동 안전에 민감하게 훈련된 AI 기술만 공개하기; 그리고 마지막으로, CSAM 생성을 방지하는 AI 모델에 계속해서 안전장치를 도입하기.
실슬은 미국에서 2023 년에만 1억 4백만 건 이상의 의심스러운 파일이 발견되었다는 점을 강조했습니다. 생성적 AI의 진보하는 능력을 감안할 때, 이 연합은 기술이 사회의 가장 취약한 이들을 보호하는 데 중요한 한 걸음으로 작용합니다.
디지털 아동 학대 대중화: AI 산업 리더들의 아동 학대에 대한 통일은 기술이 문제 해결에 우연히 도움을 줄 수 있는 가능성 때문뿐만 아니라 AI의 증가하는 능력으로 인한 아동학대의 감지와 예방에 기여하는 데에서 중요합니다. 인공 지능 기술은 인간 조절만으로는 수행하기 어려운 CSAM 식별, 추적, 보고를 더 효율적으로 처리할 수 있습니다.
이 주제와 관련된 가장 중요한 질문들은 다음과 같습니다:
– 이러한 AI 기업들이 CSAM 생성을 방지하기 위한 핵심 전략을 어떻게 실행할 것인가요?
– AI 기업들이 자신들의 기술이 CSAM 확산에 기여하지 않도록 보장하기 위한 조치는 무엇인가요?
– 이러한 전략들의 효과는 어떻게 측정되고 보고될 것인가요?
AI의 책임 있는 발전과 관련된 문제는 혁신을 저해하지 않으면서 기업들이 윤리적 지침을 준수하도록 하는 것입니다. 사생활과 안전 사이의 균형에 대한 논란은 특히 AI 알고리즘에 의한 감시와 검열의 한계를 지적할 때 주로 발생합니다.
디지털 아동 학대와 싸우기 위한 AI의 장점:
– 개선된 감지 및 보고 능력.
– 패턴 인식을 통해 신규 CSAM 자료를 빠르게 식별.
– AI 시스템으로 컨텐츠 모더레이터의 부담을 완화하여 인적 피해 감소.
단점은 다음을 포함합니다:
– 잘못된 긍정 결과로 인한 부당한 결과 가능성.
– AI 배치 및 유지 관리에 대한 자원 집중적 요구.
– AI의 개인 데이터 모니터링 및 분석 능력에 대한 사생활 우려.
실슬과 같은 조직: Thorn
책임 있는 AI 지지 단체 All Tech is Human: All Tech is Human
AI와 기술 산업 노력에 대한 자세한 정보는 연합에 언급된 회사들의 메인 도메인을 방문하여 확인할 수 있습니다. 이들 회사에는 다음과 같은 것들이 있습니다:
– Amazon
– Google
– Meta
– Microsoft
– OpenAI