Midjourney, popüler yapay zeka görüntü üreticisi, ABD başkanlık seçimine yaklaşırken kullanıcılarının Başkan Joe Biden ve eski Başkan Donald Trump’ın sahte görüntülerini oluşturmasını engellemek için geçici bir önlem başlattı. Bu karar, Associated Press tarafından yapılan testlerin, aracın kötüye kullanım potansiyelini ortaya çıkarmasının ardından alındı. Midjourney CEO’su David Holz, şirketin seçimle ilgili yanlış bilgilere karşı duruş sergilemek istediğini ancak uygulanmakta olan politika değişiklikleri hakkında spesifik detaylar vermediğini açıkladı.
Yalnızca 11 kişiyi istihdam eden Midjourney’in web sitesine göre, diğer önde gelen görüntü oluşturma araçlarının aksine girişimlerinde farklılık gösterdiği biliniyor. Şirket, seçmenleri aldatmayı amaçlayan AI tarafından üretilen derin sahtekarlıklarla mücadele etmeyi amaçlayan gönüllü bir endüstri andlaşmasına katılmadı. Holz, Midjourney’in asıl amacının siyasi konuşmalarla ilgili olmadığını belirtti, ancak şirketin bu tür içerikleri denetlemeye yönelik aşırı zaman harcamaktan kaçınmak istediğini de ekledi.
Eleştirmenler, Midjourney’in teknolojisinin yanlış bilgilendirme kampanyalarına ve seçim sahtekarlığı iddialarına destek olabileceği endişelerini dile getirdi. Dijital Nefreti Durdurma Merkezi son zamanlarda yayınladığı bir raporda Midjourney’in bu tür yanlış bilgilendirmeyi destekleyebilecek görüntüler oluşturmak için kullanıldığını belirtti. Kuruluşun araştırma başkanı Callum Hood, Midjourney’in Biden ve Trump gibi tanınmış siyasi figürlerin görüntülerini oluştururken en az kontrole sahip AI görüntü üreticisi olarak dikkat çekti. Gözlemci grubu diğer araçları da test etti; bunlar arasında OpenAI’nin ChatGPT Plus, Stability AI’in DreamStudio ve Microsoft’un Image Creator’ı bulunuyordu, hepsi seçimle ilgili yanlış bilgilendirme üretme konusunda bazı sorunlar yaşadılar.
Midjourney’in Trump ve Biden görüntülerinin oluşturulmasını engelleme kararına rağmen, kullanıcıların geçmişte bu tür içerikleri başarıyla ürettikleri vakalar oldu. Ancak, şirketin halka açık veritabanı, kullanıcıların bu iki siyasi figürün görüntülerini üretmeye çalışırken uyarılar aldıklarını gösteriyor. Bazı kullanıcılar, Midjourney’in revize politikası hakkında net iletişim eksikliğinden dolayı frustrasyonlarını dile getirdi.
Midjourney’i diğer görüntü oluşturuculardan ayıran bir yönü ise kamuoyunda faaliyet göstermesidir. Kullanıcılar, Midjourney’in en büyük grubunun bulunduğu sosyal medya platformu Discord’da birbirlerinin teşviklerini ve görüntülerini görebilirler. CEO David Holz, bu grupta kullanıcılarla düzenli olarak etkileşim halindedir, yapay zeka ve insanlığın geleceği ile ilgili geniş bir yelpazede tartışmalara girer.
Midjourney’in geçici engelleme uygulaması önümüzdeki seçimlerde AI tarafından üretilen görüntülerle ilgili endişeleri ele alabilir, ancak Holz, 2028’e kadar tüm adayların gerçekçi “derin sahte sohbet botlarına” sahip olacağını ve konuşma konularını taklit edebileceğini öngörüyor. Holz, derin sahteler oluşturmayı kararlı bir şekilde amaçlayan kişilerin, belirli hedeflere özelleştirilebilen ve mevcut sistemlerden daha etkili olabilecek alternatif yöntemler bulacağını uyarmaktadır.
2020 yılında kurulan ve San Francisco’ya yakın merkezi bulunan Midjourney, insanların düşünce türlerini keşfetmeye ve insanların hayal güçlerini genişletmeye odaklanmış bağımsız bir araştırma laboratuvarı olarak konumlandırılmaktadır. Temmuz 2022’de, şirket görüntü üreticisinin genel versiyonunu tanıttı ve yaratıcı AI teknolojisi alanında büyük ilgi uyandırdı. Kullanıcılara geniş bir görüntü yelpazesi oluşturabilme özgürlüğü sağlamayı amaçlasa da, Midjourney saldırgan ve zararlı içerikleri aktif olarak engeller. Şirket, şikayetleri ele alan bir moderatör ekibi istihdam etmekte ve anahtar kelime filtreleri kullanmaktadır.
SSS
The source of the article is from the blog tvbzorg.com
