Inżynier Microsoftu zaleca ostrożność związku z projektantem Copilot
AI firmy Microsoft, generator obrazów Copilot Designer, poddany jest szczegółowej analizie, gdy inżynier Shane Jones alarmuje o potencjalnych niebezpieczeństwach. Jones, w wywiadzie z CNBC, wyraził obawy dotyczące przerażających i dziwnych obrazów generowanych przez narzędzie. Pomimo jego wysiłków w celu zwiększenia świadomości wewnątrz Microsoftu, Jones zwrócił się teraz do regulacyjnych organów rządowych o interwencję.
Jednym z przykładów podanych przez Jonesa jest generowanie obrazów demonów i krwi przez generator obrazów AI po wprowadzeniu frazy „pro-choice”. Innym przypadkiem było generowanie obrazów uerotycznych kobiet w bieliźnie obok brutalnych wypadków samochodowych po wprowadzeniu frazy „wypadek samochodowy”. Jones przyznaje, że te obrazy naruszają wytyczne dotyczące odpowiedzialnej sztucznej inteligencji Microsoftu, jednak firma nie zareagowała wystarczająco na jego prośby o zawieszenie generatora obrazów.
Projektant Copilot działa na generatorze obrazów OpenAI, Dall-E 3, wraz z innymi narzędziami AI od Microsoftu. Pomimo krytyki i problemów z moderacją treści, Microsoft wydaje się niechętny do wstrzymania Copilot Designer. Niemniej jednak, niedawne incydenty z udziałem innych generatorów obrazów AI, takich jak tymczasowe wstrzymanie Google Gemini z powodu obaw o bezpieczeństwo, wskazują na trwające wyzwania związane z zapewnieniem odpowiednich zabezpieczeń dla produktów AI.
Szerszy problem moderowania treści i zabezpieczeń w narzędziach AI wywołał znaczące kontrowersje. Pomimo tego, że te narzędzia mają potencjał generowania innowacyjnych i kreatywnych treści, brak efektywnych zabezpieczeń budzi obawy dotyczące ich wpływu na normy społeczne i wartości. W miarę jak technologia wciąż się rozwija, znalezienie równowagi między kreatywnością a odpowiedzialną implementacją sztucznej inteligencji pozostaje kluczowym wyzwaniem zarówno dla programistów, jak i regulatorów.
FAQ Sekcja:
Q: Co to jest generator obrazów AI Microsoftu, Copilot Designer?
A: Copilot Designer to narzędzie AI opracowane przez Microsoft, które generuje obrazy na podstawie podanych promptów i danych wejściowych.
Q: Jakie obawy zostały wyrażone dotyczące Copilot Designer?
A: Inżynier Shane Jones wyraził obawy dotyczące przerażających i dziwnych obrazów generowanych przez Copilot Designer. Zauważył przypadki, gdzie narzędzie generowało obrazy demonów i krwi po wprowadzeniu określonych fraz, a także obrazy uerotycznych kobiet w bieliźnie obok brutalnych wypadków samochodowych.
Q: Czy Microsoft odpowiedział na podniesione obawy dotyczące Copilot Designer?
A: Pomimo wysiłków Jonesa w zwiększeniu świadomości wewnątrz Microsoftu, firma nie odpowiedziała adekwatnie na jego prośby o zawieszenie generatora obrazów.
Q: Co to jest generator obrazów AI, Dall-E 3?
A: Dall-E 3 to generator obrazów opracowany przez OpenAI, który jest używany przez Copilot Designer, wraz z innymi narzędziami AI od Microsoftu.
Q: Czy Microsoft rozważył wstrzymanie Copilot Designer?
A: Pomimo krytyki i problemów z moderacją treści, Microsoft wydaje się niechętny do wstrzymania Copilot Designer, co wskazuje na odpowiedź firmy na obawy Jonesa.
Q: Czy inne generatory obrazów AI napotkały problemy bezpieczeństwa?
A: Tak, incydenty z udziałem innych generatorów obrazów AI, takich jak Google Gemini, doprowadziły do tymczasowego wstrzymania z powodu obaw dotyczących bezpieczeństwa.
Kluczowe Terminy i Żargon:
– AI: Sztuczna Inteligencja, odnosi się do rozwoju systemów komputerowych zdolnych do wykonywania zadań, które zwykle wymagają ludzkiej inteligencji.
– Generator obrazów: Odnosi się do oprogramowania lub narzędzi AI, które mogą tworzyć lub generować obrazy na podstawie różnych promptów lub danych wejściowych.
– Moderacja treści: Działanie monitorowania i kontroli treści online w celu zapewnienia zgodności z określonymi smernicami lub standardami.
– Zabezpieczenia: Środki lub środki ostrożności mające na celu ochronę przed potencjalnymi ryzykami lub niebezpieczeństwami.
– Normy i wartości społeczne: Odnosi się do akceptowanych zachowań, postaw i przekonań w określonym społeczeństwie lub społeczności.
Sugerowane Powiązane Linki:
– Microsoft
– OpenAI
– CNBC
The source of the article is from the blog macholevante.com