АИ стартъп, наречен ElevenLabs, предприе необходимите действия и забрани потребител, който създаде дийпфейк на гласа на Джо Байдън с цел нарушаване на изборите, според Bloomberg. Дийпфейкът, който маскираше гласът на президента, беше използван в робокал, който призоваваше избирателите в Ню Хампшир да не участват в предварителния кръг на изборите. В началото не беше ясно как технологията измисляше гласа на Байдън, но една сигурностна компания на име Pindrop проведе подробен анализ и успешно идентифицира, че са използвани инструментите на ElevenLabs.
Вместо да се използват директни цитати от оригиналната статия, може да се обясни, че Pindrop премахна фоновия шум и подобри звука на робокала преди да го сравни с примери от множество технологии за синтез на глас, свързани с дийпфейки. Главният изпълнителен директор на Pindrop, Виджай Баласубраманиян, заяви, че анализът потвърди използването на инструментите на ElevenLabs със сигурност, надхвърляща 99 процента. Bloomberg добави, че компанията в момента разследва проблема, след като беше запозната с резултатите от Pindrop, и вече е идентифицирала и прекратила отговорният акаунт.
Инцидентът с дийпфейк робокала на Байдън подчертава потенциалния влияние на технологиите, способни да имитират гласът и външността на човек, особено по отношение на манипулацията на гласовете по време на предстоящите президентски избори в САЩ. Катлийн Карли, професор в Университета Карнеги-Мелън, изрази загрижеността си по този въпрос пред The Hill, като заяви, че това е предвестник за очакваното през следващите месеци, относно потискането на избирателите и нападките срещу работниците по избори.
Интересно е, че само няколко дни след като ElevenLabs пусна бета версията на своята платформа, хората експлоатираха технологията, за да създадат аудио клипове, които имитират известни личности, казвайки съмнителни неща. Въпреки че стартъпът подкрепя използването на своите технологии за изкуствено и политическо изказване, които допринасят за обществените дебати, предупреждава потребителите си да се въздържат от злоупотреби, които нарушават закона, като измама, дискриминация или омразна реч. Въпреки това, този инцидент подчертава необходимостта ElevenLabs да прилага допълнителни мерки за предотвратяване на злонамерени лица от манипулиране на изборите в цял свят.
Моля, обърнете внимание, че тази статия може да съдържа партньорски връзки. Ако кликнете на такава връзка и направите покупка, ние можем да получим комисионна.
ЧЗВ:
1. Какво е ElevenLabs?
ElevenLabs е АИ стартъп, който е разработил инструменти за технологията на синтеза на глас.
2. Защо ElevenLabs забрани потребител?
ElevenLabs забрани потребител, който създаде дийпфейк на гласа на Джо Байдън с цел да наруши изборите.
3. Как е използван дийпфейкът на Джо Байдън?
Дийпфейкът беше използван в робокал, който призоваваше избирателите в Ню Хампшир да не участват в предварителните избори.
4. Как беше установено, че са използвани инструментите на ElevenLabs?
Сигурностната компания Pindrop проведе подробен анализ и потвърди използването на инструментите на ElevenLabs със сигурност от над 99 процента.
5. Какви са опасенията относно технологията на дийпфейки и изборите?
Инцидентът с дийпфейк робокала на Байдън подчертава потенциалното влияние на технологиите, способни да имитират гласа и външността на човека, върху потискането на избирателите и нападките срещу работниците по избори.
6. Колко бързо хората експлоатираха технологията на ElevenLabs след нейното стартиране?
Само няколко дни след като бета версията на платформата на ElevenLabs беше пусната, хората експлоатираха технологията, за да създадат аудио клипове, които имитират известни личности, казвайки съмнителни неща.
7. За какви цели поощрява ElevenLabs използването на своята технология?
ElevenLabs поощрява използването на своята технология за изкуствено и политическо изразяване, което допринася за обществените дебати.
8. За какви цели предупреждава ElevenLabs?
ElevenLabs предупреждава потребителите си да не се злоупотребява с технологията за цели, които нарушават закона, като измама, дискриминация или омразна реч.
Дефиниции:
– Дийпфейк: Използването на изкуствен интелект за създаване или манипулиране на аудио, видео или други медийни съдържания по такъв начин, че заблуждава или измамва зрителя или слушателя да повярва, че подправеният контент е истински.
– Робокал: Автоматизирано телефонно обаждане, което доставя предварително записано съобщение на голям брой хора.
Предложени свързани връзки:
– Уебсайт на ElevenLabs
– Уебсайт на Pindrop
– Университетът Карнеги-Мелън
The source of the article is from the blog be3.sk