Kevin TopolskySporny zbiór danych treningowych Adobe Firefly
Wraz z wprowadzeniem na rynek oprogramowania do generowania obrazów Adobe Firefly, Adobe zapewniało o jego etycznym podejściu w porównaniu z konkurentami. Mówiąc o Adobe Stock – repozytorium setek milionów obrazów z licencją – jako głównego źródła treningowego dla Firefly, firma miała na celu przedstawienie swojego narzędzia jako „komercyjnie bezpieczne” rozwiązanie w porównaniu do konkurentów, takich jak Midjourney, którzy wykorzystują obrazy z sieci w swoich zbiorach treningowych.
Mimo to okazało się, że Adobe Firefly zawierał obrazy wygenerowane przez te same konkurencyjne firmy w swoim zbiorze danych, co stawiało pod znakiem zapytania deklarowaną przez nich, zgodność z etycznymi praktykami sztucznej inteligencji.
Firmy AI generatywne i etyczne szkolenie danych
Kwestie etyczne stają się coraz bardziej istotne w przestrzeni AI, gdzie firmy takie jak Midjourney, Dall-E z OpenAI i Stable Diffusion od Stability AI spotykały się z krytyką za swoje modele generowania mediów. Te modele korzystają z obrazów z całej sieci, co wywołuje reakcje prawne i etyczne ze strony twórców.
Luke Stark, profesor na Uniwersytecie Western, zwrócił uwagę na złożony krajobraz określania odpowiedzialnej AI i związane z tym społeczne, kulturowe i etyczne wyzwania generowanego treści.
Strategia Adoby w celu wyróżnienia Firefly
Adobe zamierzało wyróżnić Firefly, wykorzystując treści, które posiadała lub znajdowały się w domenie publicznej, obiecując nie generowanie treści na podstawie własności intelektualnej osób trzecich ani marek oraz unikanie szkodliwych obrazów.
Jednak obrazy wygenerowane przez AI wdarły się do zestawu treningowego Firefly poprzez zgłoszenia twórców do rynku Adobe Stock, co przyswoiło technologię innych firm, stawiając pytania wewnętrzne dotyczące etycznych i percepcyjnych implikacji korzystania z obrazów generowanych przez AI w modelu.
Trwałe etyczne dylematy w generatywnej AI
Mimo zobowiązania Adobe Firefly do szkolenia na danych licencjonowanych lub zawartości domeny publicznej, część materiału szkoleniowego może pochodzić od generatorów treści AI, takich jak Midjourney. To połączenie stawia nierozstrzygnięte pytania prawne i etyczne, zwłaszcza jeśli artyści dochodzą praw do obrazów wygenerowanych przez AI używanych komercyjnie.
W końcu, mimo że Adobe Firefly jest postrzegane jako etyczna i odpowiedzialna alternatywa na rynku generatywnej AI, mieszany pochodzenie danych treningowych podkreśla szerszy problem branżowy: zapewnienie, że te zaawansowane narzędzia są zgodne z rygorystycznymi standardami etycznymi.
Ważne pytania i odpowiedzi:
1. Co czyni zobowiązanie etyczne Adobe Firefly istotnym w branży?
Zobowiązanie Adobe Firefly do korzystania wyłącznie z treści licencjonowanej lub z domeny publicznej do szkolenia swojego narzędzia AI do obrazów stanowi krok w kierunku bardziej odpowiedzialnych praktyk w dziedzinie AI. To zobowiązanie jest istotne, ponieważ ma na celu szanowanie praw własności intelektualnej i zapewnienie, że twórcy są odpowiednio uznawani i wynagradzani za swoją pracę.
2. W jaki sposób włączenie obrazów wygenerowanych przez konkurentów do zestawu danych Firefly wpływa na jego pozycję etyczną?
Odkrycie, że zbiór danych Firefly zawiera obrazy wygenerowane przez konkurentów, których obrazy mogą nie być pochodzenia etycznego, podważa etyczną pozycję Adobe. Powoduje to obawy dotyczące wiarygodności ich zobowiązań i przejrzystości ich praktyk.
3. Z jakimi wyzwaniami prawnymi i etycznymi muszą zmierzyć się firmy generatywne AI?
Firmy rozwijające AI generatywne stają przed wyzwaniami prawny w zakresie praw autorskich i zasad fair use, co potencjalnie prowadzi do postępowania sądowego ze strony twórców, którzy uważają, że ich własność intelektualna została przyswojona niewłaściwie. Etycznie muszą rozważyć wpływ treści wygenerowanych przez AI na społeczności artystyczne i branże, zapewniając sprawiedliwe wynagrodzenie i uznanie oryginalnych twórców.
Kluczowe wyzwania lub kontrowersje:
Główne wyzwania w obszarze generatywnej AI związane z etyką obejmują określenie własności, zapewnienie uczciwego wykorzystania chronionego materiału oraz zapobieganie dystrybucji szkodliwych lub stronniczych treści. Firmy muszą również radzić sobie z postrzeganiem publicznym i zaufaniem, gdy rozwijają te potężne narzędzia.
Zalety i wady:
Zalety:
– Użycie licencjonowanych lub publicznych treści przez Adobe Firefly może sprzyjać bardziej zrównoważonemu i etycznemu podejściu do szkolenia AI.
– Ustanowienie standardów etycznych w branży przez Adobe może być pionierskim krokiem w kierunku bardziej odpowiedzialnego rozwoju AI.
– Komercyjnie, zmniejsza ryzyko dla użytkowników, którzy chcą korzystać z AI do tworzenia treści bez naruszania praw własności intelektualnej.
Wady:
– Niezamierzone włączenie niestetycznych danych do zbiorów szkoleniowych może zaszkodzić reputacji i zaufaniu.
– Złożona natura treści wygenerowanych przez AI i prawa autorskiego może stwarzać bariery w zapewnieniu, że wszystkie dane pochodzą z etycznych źródeł.
– Skuteczność Firefly może być ograniczona, jeśli jej zbiór danych jest mniejszy lub mniej zróżnicowany niż u konkurentów korzystających z danych pozyskanych ze stron internetowych.
Sugerowany link związany z Adobą na dalsze informacje o ich produktach i polityce.
Ostatecznie, mimo że Adobe Firefly dąży do bycia przywódcą etycznym w obszarze generatywnej AI, mieszane źródła danych treningowych podkreślają problemy branżowe, które muszą zostać rozwiązane w miarę rozwoju technologii. Firmy, legislatorzy i twórcy będą musieli współpracować, aby ustalić jasne wytyczne i standardy mające na celu przeciwdziałanie tym wyzwaniom.
