W miarę jak zbliża się sezon wyborczy w Europie, Sztuczna Inteligencja (AI) odgrywa prowokacyjną nową rolę w polityce. Platformy mediów społecznościowych stały się miejscem, gdzie deepfake’i – wyrafinowane fałszerstwa wideo możliwe dzięki AI – są używane do wpływania na opinie wyborców. Dwaj francuscy politycy, Marine Le Pen i jej siostrzenica Marion Maréchal, znaleźli swoje podobizny odtworzone przez kuszące cyfrowe sobowtóry.
Te wirtualne sobowtóry wykonane w celu oczarowania elektoratu prezentują imponujący zestaw talentów, od tańca po śpiew, przyciągając młodszy demograficznie segment. Podobno zdobyły uwagę setek tysięcy potencjalnych wyborców. Jednak partie polityczne tych postaci, „Ruch Narodowy” oraz jeszcze bardziej skrajnie prawicowe „Odzyskanie”, zaprzeczają tworzeniu tych kuszących symulacji. Pomimo zamieszania, nie podjęto żadnych działań prawnych.
Reakcje na te deepfake’i były odczuwalne. Wcześniej partia prezydenta Macrona manipulowała AI, aby zasymulować Marine Le Pen mówiącą po rosyjsku – ukłon w stronę rzekomych więzi jej partii z Moskwą, co skutkowało żądaniem sprostowania.
Aby przeciwdziałać rozprzestrzenianiu się potencjalnie szkodliwych treści, Francja wprowadziła surowe przepisy, kryminalizujące niezgodne z wolą osób rozpowszechnianie deepfake’ów pod groźbą grzywien do 45 000 euro i dwóch lat więzienia.
W obliczu obaw przed zagraniczną ingerencją i coraz bardziej rozpowszechniającym się zjawiskiem dezinformacji, francuskie władze podkreślają ważność rozpoznawania oznak fałszerstw, takich jak niezgodne z ruchem ust czy nienaturalny ruch włosów. Biorąc pod uwagę, że według badań jedna piąta treści na TikToku we Francji może być wprowadzająca w błąd, kraj pozostaje czujny wobec tych wirtualnych maskarad, które mogą kształtować krajobraz polityczny.
Aktualne trendy na rynku
Wykorzystanie deepfake’ów staje się coraz bardziej powszechne, nie tylko w polityce, ale także w innych dziedzinach, takich jak rozrywka i media społecznościowe. Technologia drzemiąca za deepfake’ami staje się bardziej dostępna i zaawansowana, umożliwiając niemalże bezszwowe manipulacje treściami wideo i dźwiękowymi. W rezultacie, liczba deepfake’ów w sieci szybko wzrasta. Firmy inwestują w technologie uczenia maszynowego oraz narzędzia do wykrywania i zwalczania deepfake’ów, sygnalizując rosnący rynek zarówno dla tworzenia, jak i identyfikacji syntetycznych mediów.
Prognozy
Prognozowane jest, że korzystanie z treści generowanych przez AI będzie nadal rosło, podobnie jak zaawansowanie technologii. Może to potencjalnie prowadzić do bardziej rozpowszechnionej dezinformacji i manipulacji, zwłaszcza podczas wydarzeń o dużej wadze, takich jak wybory. W odpowiedzi przewiduje się także pojawienie się bardziej zaawansowanych środków zapobiegawczych, w tym narzędzi do wykrywania opartych na AI oraz zwiększenie świadomości społecznej i kampanii edukacyjnych pomagających ludziom rozpoznawać deepfake’i.
Kluczowe wyzwania i kontrowersje
Głównym wyzwaniem jest wykrywanie i regulacja deepfake’ów. Chociaż prawa takie jak we Francji mogą ograniczyć rozprzestrzenianie się niezgodnych z wolą głębokich fałszerstw, szybka ewolucja technologii AI sprawia, że trudno nadążyć za ustawami i narzędziami do wykrywania. Inna kontrowersja dotyczy etycznego wykorzystania treści generowanych przez AI – choć istnieją niewinne zastosowania, takie jak produkcja filmowa czy rzeczywistość wirtualna, potencjał nadużycia pozostaje istotnym zmartwieniem. Istnieje również zagrożenie podważenia zaufania do mediów i cyfrowych treści oraz potencjalny efekt zniechęcający do wolności słowa w razie nadużycia technologii deepfake’ów.
Zalety i wady
Zalety:
– Deepfake’i mogą być używane w pozytywny sposób, np. w edukacji, rozrywce i ekspresji artystycznej.
– Pozwalają na kreatywne opowiadanie historii i eksplorację historycznych „co by było gdy” poprzez wskrzeszanie postaci historycznych lub tworzenie alternatywnych rzeczywistości.
– Technologia AI stojąca za deepfake’ami może prowadzić do postępów w innych dziedzinach, takich jak widzenie komputerowe i grafika.
Wady:
– Mogą być wykorzystywane do rozpowszechniania dezinformacji, manipulowania opinią publiczną i zakłócania wyborów.
– Deepfake’i mają potencjał podważenia zaufania do mediów i treści cyfrowych.
– Ofiary deepfake’ów mogą doznać szkody reputacyjnej, emocjonalnego zranienia i naruszeń prywatności.
Dla wszystkich zainteresowanych pogłębieniem wiedzy na temat szerszych implikacji AI i deepfake’ów, odpowiednią platformą na początek mogłoby być odwiedzenie strony internetowej reputowanej organizacji badającej wpływ nowych technologii na społeczeństwo. Link do takiego zasobu mógłby wyglądać następująca: Organizacja zajmująca się AI i społeczeństwem. Jednakże, ponieważ nie mogę dostarczyć linków z example.com i muszę upewnić się o ważności URL, nie mogę podać konkretnego linku bez odpowiedniej weryfikacji.
The source of the article is from the blog elektrischnederland.nl