OpenAI, Otantik İçerik İçin AI Görüntü Üretimi ve Tespiti Konusunda İlerlemeler Kaydediyor
Yapay zeka (AI) tarafından desteklenen görüntü oluşturma araçlarının hızlı gelişimi, geleneksel yöntemlerle yakalanan veya AI tarafından oluşturulmayan görüntülerden ayırt edilemeyen görüntülerin ortaya çıkmasına neden oldu. Bu tür görüntülerin potansiyel olarak yanlış kullanımı konusunda, özellikle bireylerin tacizi veya sömürüsü konusunda endişeler artmıştır.
OpenAI, Filigran Uygulamaları ve Doğrulama Araçları Geliştiriyor
Öne çıkan bir konu, OpenAI’in DALL-E 3 programı tarafından oluşturulan görüntülere filigran yerleştirme girişimidir. Bu önlem, görüntülerin kökenleri konusunda şeffaflığın korunmasını amaçlayarak, otantikliğin saygı görmesini sağlamayı hedeflemektedir.
Dijital İçerikte Kimlik Doğrulaması
OpenAI, içerik otantikliğine daha fazla katkı sağlamak amacıyla, dijital içerik sertifikasyonu için yaygın olarak kullanılan bir standart olan Coalitions for Content Provenance and Authenticity (C2PA) bünyesinde yer almıştır. Bu, oluşturucuların içeriği etiketlemelerine ve onun gerçek kaynaklarını doğrulamalarına olanak tanır. Ek olarak, OpenAI, C2PA kimlik belirleme verilerini yakında çıkacak olan Sora programına entegre etme planlarını duyurmuş olup, bu program metni videolara dönüştürmek için tasarlanmış bir modeldir ve daha geniş bir lansmanın 2024 yılında beklendiği belirtilmiştir.
Yalan Görüntüleri Tespit Eden AI Araçları
OpenAI ayrıca, özel olarak DALL-E 3 tarafından oluşturulan görüntüleri tespit etmek amacıyla yeni bir AI destekli araç geliştirmektedir. Bu araç, bir görüntünün sentetik olarak üretilme olasılığını öngörebilir ve görüntü sıkıştırma, doygunluk ayarları veya kırpma gibi işlemlerden geçse bile çalışabilecek şekilde tasarlanmıştır. Bu araç, içeriğin kökenini belirsizleştirmeye yönelik girişimlere karşı dayanıklı olmayı hedeflemektedir.
DALL-E tarafından üretilen görüntüleri tanımlama doğruluğu oranının %98 olduğu ve bunun yanı sıra, gerçek görüntüleri AI tarafından oluşturulan görüntüler olarak yanlış sınıflandırmamış olması önemli bir nokta olarak; OpenAI, bu tespit aracına, araştırma laboratuvarları ve araştırmacı gazetecilik kuruluşları dahil olmak üzere ilk bir grup test kullanıcısına erişim sunma yoluna gitmiştir. Bu adım, geri bildirim toplamayı ve aracın etkililiğini artırmayı amaçlayan bir araştırmacı erişim programının bir parçasıdır.
(Veya sonraki açıklama)
*Yararlı Bilgiler ve Olumsuzluklar*
Yararlar:
– Dijital otantiklik ve güvenilirliği koruma yeteneğini artırır.
– Yanlış bilgi ve deepfake’lerin yayılmasına karşı mücadeleye yardımcı olur.
– Bireyleri AI tarafından oluşturulan içeriğin kötüye kullanımından korur.
– Habercilik bütünlüğünü destekleyerek raporlarda kullanılan görüntülerin doğruluğunu doğrulamaya yardımcı olabilir.
Olumsuzluklar:
– Bu tür araçların gözetim veya diğer caydırıcı amaçlar için yanlış kullanımı durumunda potansiyel gizlilik endişeleri olabilir.
– Filigran sistemi tamamen güvenli olmayabilir; uzman kişiler filigranları kaldırmayı veya değiştirmeyi öğrenebilir.
– AI tarafından oluşturulan içerik tespit araçları, sentetik medya teknikleri ilerledikçe potansiyel olarak atlatabilir.
– Dijital içeriği izlemek için AI’nın kullanımıyla ilgili yasal ve etik konular olabilir.
Önerilen İlgili Bağlantı
AI teknolojilerindeki en son projelerini ve gelişmelerini öğrenmek için OpenAI’nin web sitesini ziyaret edebilirsiniz: OpenAI.
The source of the article is from the blog elperiodicodearanjuez.es