Ve světě, kde technologie poskočí kupředu beze zbrzdnutí, umělec Mathias Vef a designér Benedikt Groß odhalili znepokojivé dílo nazvané NUCA, zařízení, které poukazuje na nebezpečí spojené s obrazi generovanými pomocí AI. Tento nástroj není pouhým novinkou, je navržen k zahájení kritického dialogu o soukromí a souhlasu v digitálním prostředí.
Poháněn online službou Stable Diffusion a vyžadující pomoc chytrého telefonu k zachycení počátečního obrazu, NUCA pak využívá umělou inteligenci k přenesení tváře subjektu na synteticky vytvořené nahé tělo, dokončujíc tento rušivý proces během pouhých deseti sekund. Samotné zařízení je kompaktní, s 3D-tisknutými komponenty, které neodhalují jeho vážný podtext.
I když by to mohlo znít jako nástroj vytvořený pro skandální účely, vynálezci mají něco jiného na mysli. Prosazují větší povědomí o temné stránce pokroku v oblasti AI, přičemž zvláště zdůrazňují, s jakou lehkostí lze vytvářet deepfake obsah. Vytvoření NUCA nemělo za cíl podporovat zneužití tak mocné technologie, ale vyprovokovat veřejnost k tomu, aby si uvědomila potenciální hrubá porušení individuálního soukromí.
Zejména technologie za NUCA využívá veřejně přístupné zdroje k fungování, což následně podněcuje diskusi o demokratizaci nástrojů pro AI – a o odpovědnosti, která s tím souvisí. Je to výzva k zvážení etických hranic a potřeba dohledu v rychle expandujícím oboru umělé inteligence.