Vyvstávající AI kamera vyvolává obavy ohledně zásahu do soukromí
Obavy o soukromí rostou s pokračujícím rozvojem umělé inteligence. Lidé jsou zvláště opatrní ve vztahu k technologiím, které mohou zasahovat do jejich osobního prostoru bez souhlasu, jako je například technologie „deepfake“, známá pro vytváření přesvědčivě falešných obrazů lidí. Čelící tomuto trendu, němečtí umělci vyvinuli provokativní kameru s vestavěnou AI, nazvanou NUCA, která má schopnost „svléknout“ osoby na fotografiích téměř okamžitě, což vyvolává značné pobouření, jak informovaly různé zpravodajské servery.
Němečtí umělci Mathias Vef a Benedikt Groß stojí za touto inovací chytré kamery. Tento přístroj vytvořili s cílem poukázat na nekonečný postup umělé inteligence a její potenciál zneužití. Jejich cílem nebylo narušovat soukromí, ale spíše vyslat poselství. Přemýšleli o tom, jak by AI mohla narušit soukromí bez souhlasu a nakonec konceptualizovali kameru NUCA. Umělci si přejí využít svůj vynález k tomu, aby podnítili lidi k zamyšlení nad nebezpečími, která přináší neustále se zlepšující technologie AI, a vyvolali diskuzi o rizicích spojených se snižováním soukromí.
Kamera NUCA: Kombinace 3D tisku a technologie smartphone
Venkovní kryt a objektiv kamery NUCA byly vyrobeny pomocí technologie 3D tisku. K zachycení obrazů zařízení používá smartphone, který pošle fotografii do cloudu, kde softwarová AI generuje odhalenou verzi subjektu. Kamera ve skutečnosti nezná podobu osoby; namísto toho hádá vzhled nahého těla na základě analyzovaných detailů, jako jsou pohlaví, obličejové rysy, věk a tvar těla. Tato kamera dokáže vytvořit deepfake nahé fotky během pouhých 10 sekund, což zdůrazňuje rizika spojená s rychle se zlepšujícími schopnostmi AI.
NUCA: Umělecká instalace s poselstvím
Němečtí umělci nemají v úmyslu použít NUCA pro komerční účely. Místo toho budou kameru a její funkce předvádět na výstavě v Berlíně ke konci června s cílem zvýšit povědomí o rizicích AI. Jejich výstava si klade za cíl poslat silné poselství o potenciálních budoucích nebezpečích, která mohou vzniknout v důsledku zneužití takové technologie pro vydírání hrozbou zveřejnění falešných nahých fotografií.
Možné otázky a klíčové výzvy
Některé z nejdůležitějších otázek a klíčových výzev spojených s projektem kamery NUCA a širším tématem AI a soukromí zahrnují:
1. Jak zajistí společnost, že AI bude vyvíjena a používána takovým způsobem, který respektuje individuální soukromí a souhlas?
2. Jaká legislativní opatření lze uplatnit k ochraně před zásahy do soukromí řízenými AI?
3. Jak mohou umělci, aktivisté a technologové spolupracovat na zvýšení povědomí a vytvoření dialogu o etice AI?
4. Jaké jsou psychologické a sociální dopady AI, které mohou manipulovat obrázky do tak přesvědčivé úrovně realismu?
Spory
Kamera NUCA se inherentně pohybuje v kontroverzní oblasti tím, že je navržena k „svlékání“ jedinců na fotografiích. Kontroverze zde jsou především o etice vytváření takové technologie, i když není určena k zákeřnému použití. Citlivé diskuse týkající se souhlasu, zásahu do soukromí a digitálních práv jsou umocněny projekty, které posouvají hranice toho, co je možné s AI.
Výhody a Nevýhody
Výhody:
– Konfrontací veřejnosti s provokativním kouskem jako je NUCA se zvyšuje povědomí o digitálních otázkách soukromí, kterým čelíme ve dnešním světě.
– Kamera může sloužit jako umělecký nástroj, který vyvolává nezbytnou debatu a zvážení budoucích dopadů AI na společnost.
– Může vést k proaktivním diskusím o politických a regulačních rámcích, které je třeba vybudovat jako odpověď na rozvíjející se technologii.
Nevýhody:
– I když není určena k praktickému použití, existence této technologie by mohla inspirovat ostatní k vývoji podobných nástrojů pro invazivní účely.
– Může způsobit úzkost nebo paniku veřejnosti tím, že drasticky ilustruje možné zásahy do soukromí, které by se mohly objevit s rozvíjející se AI.
– Může vzniknout veřejný odpor ze strany jednotlivců nebo skupin, které jsou znepokojeny tím, že samotný umělecký projekt překračuje etické hranice.
Kromě uvedených bodů je důležité poznamenat, že zákony o ochraně soukromí se významně liší mezi zeměmi. Nařízení GDPR (Obecné nařízení o ochraně osobních údajů) je jedním z nejpřísnějších zákonů o ochraně soukromí a bezpečnosti na světě, který vytvořila a schválila Evropská unie (EU). Ačkoli článek neupřesňuje, jak by mohlo toto nařízení GDPR nebo podobná legislativa ovlivnit tuto technologii, tato nařízení sehrávají významnou roli při určování toho, co je přípustné ve vztahu k osobním údajům a ochraně soukromí v EU.
Pro možné další čtení by mohl být poskytnut odkaz na hlavní doménu Nařízení GDPR následovně: Obecné nařízení o ochraně osobních údajů. Upozorňujeme, že tento odkaz je pouze pro informační účely a není přímo spojen s obsahem zdrojového článku.
The source of the article is from the blog agogs.sk