Digitalno bojišče rezultatov iskanja internetnih iskalnikov priča pomembnemu izzivu: vzponu AI ustvarjenega neželenega e-poštnega spama. Jon Gillham, izvršni direktor vodilnega podjetja za zaznavanje vsebine AI, je opozoril, da se zdi, da Googlova borba proti neprimernim rezultatom iskanja lahko peša. Kljub prizadevanjem za čiščenje rezultatov iskanja, približno 10% povezav uporabnike vodi na strani, ki so polne vsebine, ustvarjene s pomočjo umetne inteligence.
Podjetje Gillhama skrbno spremlja prisotnost AI v Googlovih rezultatih iskanja ter mesečno poroča o obsegu te težave. Gillham je v odkritem pogovoru poudaril zaskrbljujoč trend; skoraj vsak neželeni e-poštni spam, ki pesti Googlov iskalnik, se zdi, da ga poganjajo sistemi AI. Čeprav vsa vsebina, ustvarjena z AI, ni številčenje neželene pošte, se zdi, da velja nasprotno: neželene pošte skoraj univerzalno ustvarjajo s pomočjo AI, da oblikujejo svojo vprašljivo vsebino.
Čeprav je Google obljubil, da bo omejil spletne strani, ki promovirajo nizko kakovostno vsebino, ustvarjeno z AI – in v resnici že ukrepal proti mnogim od njih – ostaja skrb, da se algoritmi podjetja še naprej borijo pri razlikovanju med avtentično in strojno ustvarjeno vsebino.
Gillham predlaga, da bi njegova tehnologija, ki lahko razlikuje med vsebino, ustvarjeno s strani ljudi in strojev, lahko bila del rešitve, vendar priznava, da ni srebrnega metka. Obstaja nevarnost, da bi se AI z uživanjem in učenjem iz drugih AI-generiranih podatkov lahko znašel v ciklu ustvarjanja vedno slabše vsebine, pojav poznan kot modelno propadanje. Jasno je, da je treba narediti več za reševanje tega rastočega digitalnega problema.