Nieustępliwy postęp technologii sztucznej inteligencji (AI) okazuje się być zarówno katalizatorem innowacji, jak i zagrożeniem dla cyberbezpieczeństwa. W miarę poprawy jakości, wygody i zastosowań AI, złośliwi aktorzy znajdują sposoby na wykorzystanie tych postępów w celach oszukańczych.
Niedawno wzmiankowana została technika AI o nazwie 'EMO’ stworzona przez chiński Alibaba, która potrafi animować statyczne zdjęcie tak, aby wyglądało jakby osoba na nim śpiewała. Choć imponujące, Alibaba podkreśla, że ich projekt ma charakter czysto naukowy i demonstracyjny, nie jest przeznaczony do publicznego wykorzystania. Niestety, nadużycia podobnych technologii mogą prowadzić do tworzenia deepfake’ów.
Jak tworzą się deepfake’y? Proces rozpoczyna się od pozyskania wideo celu, podmiany audio na zsyntetyzowany głos, a następnie poprawienia wiarygodności wizualnej za pomocą narzędzi do synchronizacji warg. Wśród bardzo dokładnych usług wzmocnienia dźwięku i synchronizacji warg wymienia się 'ElevenLabs’ oraz bibliotekę open-source 'Wav2Lip’.
Usługi online upraszczają generowanie deepfake’ów, w przypadku niektórych platform wystarczą tylko kilka kliknięć. Ta rosnąca łatwość wzbudza obawy; jednak pewne rzetelne usługi online, takie jak 'HeyGen’, próbują ograniczać nadużycia poprzez dodawanie kroków weryfikacji tożsamości.
Co się tyczy dużych modeli językowych (LLM) wykorzystywanych przez złośliwych aktorów, eksperci ds. cyberbezpieczeństwa zauważyli, że podczas gdy ataki typu 'jailbreak’ — te zaprojektowane w celu obejścia środków bezpieczeństwa i uzyskania nieodpowiednich odpowiedzi — były popularne, obecnie ustąpiły one dzięki intensyfikacji działań dostawców usług zmierzających do przeciwdziałania. Usługi opracowane przez samych atakujących, takie jak 'WormGPT’ i 'FraudGPT’, obecnie nie posiadają wymaganej precyzji dla praktycznego zastosowania, a znaczne zasoby obliczeniowe potrzebne do działania pozostają trudną barierą. Eksperci, tak jak badacz piyokango, zdają sobie sprawę, że przełomy technologiczne mogą zmienić tę sytuację, ale na obecną chwilę atakującym brakuje wymaganej mocy obliczeniowej.
Technologia AI nadal wpływa na społeczeństwo. Ewolucja technologii AI zmienia różne aspekty naszego życia, od rewolucjonizacji branż po stawianie kwestii etycznych i bezpieczeństwa. Potencjał AI w zwiększaniu produktywności i rozwiązywaniu złożonych problemów jest ogromny, ale stwarza także znaczące wyzwania.
The source of the article is from the blog myshopsguide.com