Głos syntetyczny obarczony rasistowskimi uwagami kierowanymi wobec czarnoskórych osób oraz zawierający antysemickie wypowiedzi wywołał poruszenie, zanim został ujawniony jako nieautentyczny. Szef policji hrabstwa Baltimore, Robert McCulloch, potwierdził, że nagranie audio było sztucznie generowane.
Policja hrabstwa Baltimore doszła do tego wniosku w wyniku starannej dochodzenia, które obejmowało uzyskanie wsparcia specjalisty ds. analizy przestępczości zewnętrznej związanego z FBI. Dowody sugerowały, że sztuczna inteligencja miała udział w tworzeniu treści audio.
Drugi ekspert z Uniwersytetu Kalifornijskiego w Berkeley potwierdził to ustalenie, dalsze obalając autentyczność nagrania. McCulloch ujawnił, że podejrzewano osobę o imieniu Darian o sfałszowanie nagrania jako zemstę na przełożonym, który rozpoczął dochodzenie w sprawie potencjalnego złego zarządzania funduszami szkolnymi.
Zgodnie z dokumentami z oskarżeniem, zredagowanymi przez NPR, w grudniu Darian stanął w obliczu kontroli ze strony nadzorcy Iceworta z powodu potencjalnego nieprawidłowego obchodzenia się z 1916 dolarami funduszy szkolnych. Napięcie wzrosło po tym, jak Icewort zwrócił uwagę Darianowi za zwolnienie trenera bez upoważnienia i zasugerował, że nie przedłuży umowy z Darianem. Kolejne badania wykazały, że Darian szukał narzędzi sztucznej inteligencji online kilkakrotnie między grudniem a styczniem, jak donosi „The Baltimore Banner”.
Ważne pytania i odpowiedzi
– Jakie techniki zostały użyte do ustalenia autentyczności nagrania dźwiękowego?
Policja hrabstwa Baltimore wykorzystała analizę sądową przy wsparciu zewnętrznego specjalisty ds. analizy przestępczej związanej z FBI i drugiego eksperta z Uniwersytetu Kalifornijskiego w Berkeley, by ustalić, że nagranie dźwiękowe było generowane sztucznie przy użyciu sztucznej inteligencji.
– Kto był podejrzewany o stworzenie fałszywego nagrania dźwiękowego oraz jaki był ich motyw?
Osoba o imieniu Darian była podejrzewana o stworzenie fałszywego nagrania dźwiękowego w zemście na przełożonym o nazwisku Icewort, który badał potencjalne nieprawidłowości finansowe Dariana i wyraził niezadowolenie z nieautoryzowanych działań Dariana.
– Jaka jest istotność wyników dochodzenia?
Wyniki dochodzenia podkreślają rosnące zaniepokojenie nadużyciami sztucznej inteligencji do tworzenia fałszywych mediów, co może mieć poważne konsekwencje dla reputacji jednostek oraz zaufania do cyfrowej komunikacji.
Główne Wyzwania lub Kontrowersje
– Weryfikacja Autentyczności: Jednym z głównych wyzwań jest potwierdzenie autentyczności cyfrowego dźwięku wobec coraz większej sofistykacji treści generowanych przez AI, znanych jako deepfake. Różnicowanie między rzeczywistymi a syntetycznymi mediami wymaga zaawansowanej technologii i wiedzy specjalistycznej.
– Świadome Wykorzystanie AI: Kontrowersje dotyczące nadużywania sztucznej inteligencji do fabrykowania fałszywych dowodów lub szerzenia treści nienawistnych stanowią rosnący problem, z implikacjami dla reputacji osobistych i zawodowych, a także kwestiami prawno-etycznymi.
– Implikacje Prawne: Fabrykowanie dowodów lub rozpowszechnianie zawierających oszczerstwa treści za pomocą AI może prowadzić do działań prawnych, ale relatywnie nowość takich przestępstw stanowi wyzwanie dla obecnych ram prawnych w odpowiednim zajęciu się nimi.
Zalety i Wady
– Zalety prowadzonego starannego dochodzenia to ujawnienie nadużyć związanych z AI oraz zapobieżenie potencjalnej szkodzie, jaką fałszywe nagranie mogłoby wyrządzić, gdyby było uznane za autentyczne. Dochodzenie stanowi także środek odstraszający dla osób, które mogłyby rozważać złośliwe wykorzystanie technologii.
– Wady obejmują zasoby i czas wymagane do prowadzenia dochodzenia, potencjalne uszczerbki na reputacji osób wspomnianych w fałszywym nagraniu dźwiękowym przed jego ujawnieniem jako nieautentycznego oraz obawy, jakie takie wydarzenia mogą wywołać w dyskursie publicznym.
Po dalszą informację na ogólny temat sztucznej inteligencji i kwestii etycznych związanych z jej wykorzystaniem, poniższe linki mogą dostarczyć dodatkowych wglądów:
– ACLU – Amerykańska Unia Obrony Obywatelskich zajmuje się kwestiami prawno-etycznymi dotyczącymi technologii, w tym związanych z AI.
– NPR – National Public Radio oferuje różnorodne artykuły i dyskusje na temat nowych technologii i ich wpływu społecznego.
– Uniwersytet Kalifornijski w Berkeley – Jako instytucja zaangażowana w badanie nagrania audio, UC Berkeley jest źródłem wiodącej badań dotyczących sztucznej inteligencji i pokrewnych tematów.
Należy pamiętać, że chociaż adresy URL były ważne w chwili pisania, zawartość internetowa może ulegać zmianom.