La filigrana è stata proposta come soluzione potenziale per distinguere i contenuti generati da AI dai contenuti generati dall’uomo. Tuttavia, implementare filigrane efficaci che siano resistenti alla rimozione e alla manipolazione presenta significative sfide.
Un tipo comune di filigrana per le immagini digitali è sovrapporre del testo da parte di siti di immagini stock. Sebbene questo tipo di filigrana sia visibile e difficile da rimuovere senza competenze di editing fotografico, non è adatto per le immagini generate da AI, in quanto rende l’immagine inutilizzabile per la pubblicazione.
Un altro tipo di filigrana è il metadato, che è discreto ma facilmente rimosso dai file. Il metadato può fornire informazioni come data, ora, posizione e creatore di un’immagine. Tuttavia, i siti di social media spesso rimuovono automaticamente i metadati quando vengono caricati per risparmiare spazio di archiviazione.
Una filigrana utile per le immagini generate da AI dovrebbe essere rilevabile anche dopo il ritaglio, la rotazione o la modifica. Una tecnica consiste nella manipolazione dei bit meno percettibili di un’immagine, creando un modello invisibile agli spettatori ma rilevabile da un programma di rilevamento filigrane. Tuttavia, questo metodo è facilmente distrutto dalla rotazione o ridimensionamento dell’immagine.
Esistono proposte di filigrana più sofisticate che sono robuste contro una gamma più ampia di modifiche. Tuttavia, queste proposte devono anche essere robuste contro individui che sono consapevoli della filigrana e cercano attivamente di eliminarla. Manipolando direttamente il file dell’immagine, un individuo potrebbe rimuovere la filigrana senza cambiamenti visivi significativi.
Alternativamente, alcune aziende stanno esplorando l’autenticità dei contenuti, aggiungendo metadati alle immagini generate dalla fotocamera e utilizzando firme crittografiche per dimostrarne la genuinità. Sebbene questo approccio risolva il problema della rimozione della filigrana, è un sistema complesso che si basa sulla conservazione della verificabilità attraverso tutto il software utilizzato per modificare le foto. Inoltre, la maggior parte delle fotocamere non produce questi metadati, limitando la loro efficacia nel dimostrare l’autenticità delle immagini.
La filigrana per generare AI di testo presenta ancora maggiori sfide. Sebbene sia possibile creare filigrane basate su parole per stabilire uno stile testuale, sono soggette alla rimozione mediante la riformulazione. Inoltre, la disponibilità di strumenti di rilevamento solleva preoccupazioni. Gli strumenti disponibili pubblicamente consentono modifiche ripetute per eludere il rilevamento, mentre mantenerli segreti limita la loro utilità e richiede di affidarsi all’azienda di filigranamento per il rilevamento.
In conclusione, sebbene la filigrana e l’autenticità dei contenuti siano approcci potenziali, entrambi hanno limitazioni e non sono soluzioni complete. La maggior parte delle immagini e del testo su Internet non avrà alcuna forma di filigrana o metadati di autenticità dei contenuti.
The source of the article is from the blog klikeri.rs