Midyolculuk, popüler yapay zeka görüntü üretici şirketi, yakın zamanda Başkan Joe Biden ve eski Başkan Donald Trump’ın yalancı görüntülerinin oluşturulmasını geçici olarak engelleyeceğini duyurdu. Karar, devam eden ABD başkanlık seçimleri arasında alındı ve aracın politik amaçlarla kötüye kullanılmasını önlemeyi amaçlıyor. Midyolculuk CEO’su David Holz, dijital ofis saatleri etkinliği sırasında duyuruyu yaptı ve söz konusu içeriğin moderasyonunun zor olduğunu ve engellemenin soruna müdahale etmek için geçici bir önlem olduğunu belirtti.
Şirket, politika değişiklikleri hakkında belirli ayrıntılar sağlamamış olsa da, Holz, amacın insanların yapay zeka aracını kötüye kullanmalarını zorlaştırmak olduğunu vurguladı. Midyolculuk, konuyla ilgili daha fazla yorum taleplerine yanıt vermedi.
Raporlar, yeni politikanın zaten uygulanmaya başladığını gösteriyor. The Associated Press’ten gazeteciler tarafından yapılan testler, “Trump ve Biden’ın plajda el sıkışmalarını” resmetmeye çalıştıklarında uyarı mesajları aldı. Uyarılar, ikinci bir denemede “kötüye kullanım uyarısı”na yükseldi.
Midyolculuk’un bu hamlesi, generatif yapay zeka araçları ve seçim yanlış bilgi potansiyeli üzerine endişeleri ele almak için atılan adımlarla uyumlu. Center for Countering Digital Hate’te araştırma başkanı olan Callum Hood’un yaptığı son röportajda, Midyolculuk’un Biden ve Trump gibi siyasi figürlerin ikna edici görüntülerini oluştururken lider görüntü oluşturma araçları arasında en az denetimlere sahip olduğu ortaya çıktı. Grubun raporu ayrıca, Midyolculuk’un test edilen araçlar arasında en kötü performansı sergilediğini, vakaların %65’inde başarısız olduğunu ve seçim yanlış bilgisine katkıda bulunduğunu ortaya koydu.
Yalancı Görüntü Oluşturma, diğer popüler görüntü oluşturucularla karşılaştırıldığında önemli bir zayıflığı ele almaya yardımcı olurken, bu politika değişikliklerinin siyasi deepfake’lerin yayılmasına kalıcı bir etkisi olup olmayacağı henüz belirsizdir.
Sıkça Sorulan Sorular
Midyolculuk nedir?
Midyolculuk, bağımsız bir araştırma laboratuvarı tarafından geliştirilen bir yapay zeka görüntü oluşturucudur. Kullanıcılara çeşitli girdilere dayanarak gerçekçi görüntüler oluşturmak imkanı sağlar.
Midyolculuk, neden sahte Biden ve Trump görüntülerinin oluşturulmasını engelledi?
ABD başkanlık seçimleri devam ederken, Midyolculuk aracının politik amaçlar için kötüye kullanılmasını önlemek ve seçim yanlış bilgisinin yayılması konusunu ele almak amacıyla geçici bir engelleme uyguladı.
Midyolculuk, diğer görüntü oluşturuculardan nasıl farklıdır?
Bir ana farklılık, Midyolculuk’un kullanıcıların birbirlerinin girdi ve görüntülerini kamuya açık olarak görebileceği ve etkileşimde bulunabileceği sosyal medya platformu Discord üzerinde çalışmasıdır.
Yalan görüntüler için gelecek ne getiriyor?
Midyolculuk CEO’su David Holz, yalan görüntülerin peyzajının gelecekte devam edeceğini ve başkan adaylarının gelecekte daha sofistike “deepfake sohbet botları” kullanabileceğini öngörüyor.
Kaynak: The Associated Press.
Tanımlar:
– Yapay zeka (AI): İnsan zekasının makinelerde simülasyonunu ifade eder ve insan gibi düşünmeye ve öğrenmeye programlanmış olan makinelerin belirli görevleri yerine getirmelerini sağlar.
– Görüntü oluşturucu: Belirli girdiler veya ipuçlarına dayanarak görüntüler oluşturan bir araç veya yazılım.
– Kötüye kullanım: Bir şeyin yanlış veya izinsiz kullanımı; bu durumda, yalancı görüntü oluşturucusunun politik amaçlar için kötüye kullanılması ve yanlış bilgi yayılmasını içerir.
– Moderasyon: Belirli standartlara veya kurallara uygunluk sağlamak amacıyla içeriği veya davranışı izleme ve denetleme eylemi.
– Generatif yapay zeka araçları: Belirli girdilere veya ipuçlarına dayanarak yeni ve orijinal içerik, mesela görüntüler, oluşturabilen yapay zeka araçları.
– Deepfake’ler: Genellikle videolar veya görüntüler şeklinde olan ve kişilerin aslında söylemediği veya yapmadığı şeyleri gösteren yapay olarak manipüle edilmiş medya.
– Discord: Kullanıcıların metin, ses ve video kanalları aracılığıyla topluluklar oluşturabildiği ve birbiri ile etkileşime geçebildiği bir sosyal medya platformu.
İlgili bağlantılar:
– Midyolculuk: Midyolculuk, yapay zeka görüntü oluşturucusunun resmi web sitesi.
– Deepfake’ler: Derin sahtekarlıklar ve etkileri hakkında Anti-Defamation League’den bilgi.
– Discord: Discord’un resmi web sitesi, Midyolculuk’un faaliyet gösterdiği sosyal medya platformu.
Lütfen sağlanan bağlantıların örnekler olduğunu ve geçerli URL’ler olmayabileceğini unutmayın.
