Bloomberg’in bildirdiğine göre, ElevenLabs adlı bir yapay zeka başlangıcı, seçimleri bozmak amacıyla Joe Biden’ın ses deepfake’ini oluşturan bir kullanıcıyı yasaklama yoluna gitmiştir. Başkanı taklit eden deepfake, New Hampshire’daki seçmenlere devletin ön seçimine katılmamaları yönünde çağrı yapan bir robocall’da kullanıldı. İlk başta teknolojinin Biden’ın sesini nasıl taklit ettiği belirsizdi, ancak güvenlik şirketi Pindrop, ElevenLabs’ın araçlarının kullanıldığını başarılı bir şekilde tespit etmek için ayrıntılı bir analiz gerçekleştirdi.
Orijinal makaleden doğrudan alıntılar yerine, Pindrop’un arka plan gürültüsünü kaldırdığı ve robocall’ın sesini geliştirdiği ve daha sonra deepfake’lerle ilişkilendirilen çok sayıda ses sentezi teknolojisi örneğiyle karşılaştırdığı açıklanabilir. Pindrop’un CEO’su Vijay Balasubramaniyan, analizin ElevenLabs’ın araçlarının kullanımını %99’dan fazla bir kesinlikle doğruladığını belirtti. Bloomberg, şirketin şu anda Pindrop’un bulgularını öğrendikten sonra sorunu araştırdığını, sorumlu hesabı zaten tespit ettiğini ve askıya aldığını belirtti.
Joe Biden’ı deepfake robocall’ıyla ilgili yaşanan olay, bir kişinin ses ve görünüşünü taklit edebilen teknolojilerin potansiyel etkisini vurgulayarak, yaklaşan ABD başkanlık seçimleri sırasında oyların manipülasyonuna ilişkin endişeleri vurgulamaktadır. Carnegie Mellon Üniversitesi’nden profesör Kathleen Carley, bu konudaki endişelerini The Hill gazetesine ifade ederek, bu durumun seçmen baskısı ve seçim yetkililerine yönelik saldırılar konusunda önümüzdeki aylarda ne beklenebileceğini gösterdiğini belirtti.
İlginçtir ki, ElevenLabs’ın platformunun beta sürümünün piyasaya sürülmesinden sadece birkaç gün sonra insanların teknolojiyi kötüye kullanmak için ses kayıtları oluşturduklarını gördük. Başlangıç, teknolojisini sanatsal ve siyasi konuşmalara teşvik ederken, sahtekarlık, ayrımcılık veya nefret söylemi gibi yasaları ihlal eden kötüye kullanım türlerine karşı kullanıcıları uyarıyor. Bununla birlikte, bu olay, ElevenLabs’ın dünya genelinde seçimlere müdahale eden kötü niyetli kişileri engellemek için ek önlemler uygulaması gerektiğini göstermektedir.
Lütfen bu makalenin bağlı ortaklık bağlantıları içerebileceğini unutmayın. Böyle bir bağlantıya tıklarsanız ve bir satın alma işlemi yaparsanız, komisyon kazanabiliriz.
SSS:
1. ElevenLabs nedir?
ElevenLabs, ses sentezi teknolojisi için araçlar geliştiren bir yapay zeka başlangıcıdır.
2. ElevenLabs neden bir kullanıcıyı yasakladı?
ElevenLabs, seçimleri bozmak amacıyla Joe Biden’ın ses deepfake’ini oluşturan bir kullanıcıyı yasaklamıştır.
3. Joe Biden’ın deepfake’i nasıl kullanıldı?
Deepfake, New Hampshire’daki seçmenlere devletin ön seçimine katılmamaları yönünde çağrı yapan bir robocall’da kullanıldı.
4. ElevenLabs’ın araçlarının kullanıldığı nasıl belirlendi?
Pindrop adlı bir güvenlik şirketi ayrıntılı bir analiz gerçekleştirdi ve ElevenLabs’ın araçlarının kullanıldığını %99’dan fazla bir kesinlikle doğruladı.
5. Deepfake teknolojisi ve seçimlerle ilgili endişeler nelerdir?
Joe Biden’ın deepfake robocall’ıyla ilgili yaşanan olay, bir kişinin ses ve görünüşünü taklit edebilen teknolojilerin seçmen baskısı ve seçim yetkililerine yönelik saldırılar konusunda olası etkisini vurgulamaktadır.
6. ElevenLabs’ın teknolojisi piyasaya sürüldükten ne kadar süre sonra kötüye kullanıma uğradı?
ElevenLabs’ın platformunun beta sürümü piyasaya sürüldükten sadece birkaç gün sonra insanlar, şüpheli ifadeler kullanan ünlüleri taklit eden ses kayıtları oluşturmak için teknolojiyi kötüye kullanmaya başladı.
7. ElevenLabs’ın teknolojisi için hangi kullanımlar teşvik edilmektedir?
ElevenLabs, teknolojisinin sanatsal ve siyasi konuşmalara katkıda bulunan şekilde kullanılmasını teşvik etmektedir.
8. ElevenLabs hangi kullanımlara karşı uyarıda bulunuyor?
ElevenLabs, sahtekarlık, ayrımcılık veya nefret söylemi gibi yasaları ihlal eden kötüye kullanımlara karşı kullanıcıları uyarıyor.
Tanımlar:
– Deepfake: Yapay zekanın, ses, video veya diğer medyayı manipüle ederek izleyici veya dinleyiciyi yanıltan veya aldatan şekilde oluşturması veya değiştirmesidir.
– Robocall: Büyük bir insan grubuna önceden kaydedilmiş bir mesajı ileten otomatik telefon araması.
Önerilen ilişkili bağlantılar:
– ElevenLabs Websitesi
– Pindrop Websitesi
– Carnegie Mellon Üniversitesi
The source of the article is from the blog krama.net