Garry Tan wzywa do rozsądnych regulacji dotyczących sztucznej inteligencji
Podczas dyskusji w Economic Club w Waszyngtonie, CEO Y Combinator, Garry Tan, podkreślił zbliżające się potrzeby regulacji w branży sztucznej inteligencji. Podczas rozmowy z Teresą Carlson z funduszu venture capital Basic Catalyst, wyraził szerokie wsparcie dla środków regulacyjnych podobnych do tych, które opracowuje Narodowy Instytut Standaryzacji i Technologii (NIST).
Rozmowa z Tanem dotyczyła tematów od przystąpienia do Y Combinator po aktualny krajobraz technologii AI, gdzie zauważył, że nigdy nie było lepszego czasu na zaangażowanie się w pracę technologiczną. Poparł dekret wykonawczy administracji Bidena, którego celem jest ustanowienie szeregu przepisów dla agencji skoncentrowanych na AI, począwszy od udostępniania danych dotyczących bezpieczeństwa po zapewnienie równego dostępu dla małych deweloperów.
Tan zauważył, że ramy NIST sugerują kilka inicjatyw, takich jak zapewnienie, że AI jest zgodna z obowiązującymi przepisami regulującymi prywatność danych i prawa autorskie, ujawnianie użytkownikom końcowym wykorzystywania AI generatywnego oraz wprowadzanie reguł zapobiegających generowaniu materiałów przedstawiających wykorzystywanie seksualne dzieci.
Mimo poparcia dla federalnych regulacji, Tan wyraził obawy dotyczące propozycji ustaw w Kalifornii i San Francisco, określając je jako szczególnie niepokojące. Dotyczy to między innymi projektu ustawy, którą wprowadził senator stanowy Scott Wiener, która pozwoliłaby na podjęcie działań prawnych przeciwko firmom AI, jeśli ich produkty uznane będą za szkodliwe.
Etyczny kurs w zakresie AI
Tan podkreślił konieczność przemyślanej dyskusji na temat „tego, jak naprawdę powinna wyglądać dobra wersja [regulacji dotyczących AI]”, wskazując na postacie takie jak Ian Hogarth w Wielkiej Brytanii, który skupia się na kontrolach i równoważeniu oraz zachęca do innowacji, łagodząc potencjalne szkody.
Podejście Y Combinator do odpowiedzialności etycznej jest jasne; nie finansują startupów, jeśli nie zgadzają się z ich misją lub potencjalnymi społecznymi skutkami, stwierdził Tan. Nawet gdy wracają do ubiegłych kandydatów, którzy robią wrażenie, Tan zdradził, że często okazuje się, że ich początkowa decyzja o niewybraniu inwestycji służyła dobru społeczeństwa.
Startupy AI kwitną pomimo obaw
Pomimo zastrzeżeń dotyczących zarządzania AI, Y Combinator nadal wspiera szereg startupów AI. Według ich katalogu startupów, zimowy kohort z 2024 roku zanotował wzrost do 86 firm AI, niemal dwukrotnie więcej niż kohort z 2023 roku.
Niedawne zawirowania związane z liderami branży AI podnoszą pytania dotyczące wiarygodności sprzedawców produktów AI. Usunięcie zespołu etyki AI przez OpenAI oraz kontrowersyjne wykorzystanie głosu przypominającego Scarlet Johansson w nowej prezentacji GPT-4 stanowią przykłady nadzoru, z jakim borykają się firmy AI.
Patrząc w przód, Tan jest optymistyczny co do branży AI, wyobrażając sobie ekosystem technologiczny pełen wyboru dla konsumentów i założycieli zdolnych do dotarcia do miliarda ludzi. Jego największym lękiem nie jest złowroga AI, lecz raczej brak możliwości wyboru modeli AI, co mogłoby prowadzić do monopolizacji – świata, w którym zdecydowanie nie chce być obecny.
Kluczowe pytania i odpowiedzi:
– Jaka jest postawa CEO Y Combinatora wobec regulacji dotyczących AI? Garry Tan popiera rozsądne regulacje dotyczące AI, które zapewniają odpowiedzialną innowację, takie jak te opracowywane przez NIST. Podkreśla znaczenie regulacji w kierowaniu etycznym rozwojem i użytkowaniem AI.
– Na jakie ramy regulacyjne odwołuje się Garry Tan? Tan odnosi się do dekretu wykonawczego administracji Bidena i inicjatyw NIST, których celem jest zapewnienie, że AI jest zgodna z obowiązującymi przepisami dotyczącymi prywatności danych i praw autorskich, między innymi.
– Jakich obaw dotyczących regulacji AI ma Tan? Tan obawia się zbyt restrykcyjnych ustaw na szczeblu stanowym, takich jak projekt ustawy kalifornijskiej, który może pozwolić na podjęcie działań prawnych przeciwko firmom AI, jeśli ich produkty zostaną uznane za szkodliwe, potencjalnie hamując innowacje.
– Czy Y Combinator ma etyczną postawę wobec startupów AI? Tak, Y Combinator nie finansuje startupów, jeśli ich misja lub potencjalne skutki społeczne są sprzeczne, dostosowując swoje inwestycje do kwestii etycznych.
Kluczowe wyzwania i kontrowersje:
– Zrównoważenie między innowacją a regulacją: Trudność polega na stworzeniu regulacji, które chronią społeczeństwo, nie hamując postępu technologicznego i nie blokując startupów opartych na AI.
– Monopolizacja AI: Tan obawia się, że brak wyboru konsumentów w modelach AI może doprowadzić do monopolizacji, ograniczając innowacje w branży i opcje dla konsumentów.
– Zaufanie do AI: Wysokie incydenty wzbudziły wątpliwości co do wiarygodności produktów AI oraz zaangażowania firm AI w kwestie etyczne – na przykład rozwiązanie zespołu etyki OpenAI.
Zalety i wady regulacji AI:
Zalety:
– Ochrona konsumentów: Regulacje mogą chronić konsumentów przed naruszeniami prywatności oraz stronniczymi lub wadliwymi decyzjami odnoszącymi się do AI.
– Standaryzacja: Zapewnia zgodny zestaw standardów i wytycznych, którym deweloperzy AI i firmy mogą się stosować w celu odpowiedzialnego wdrożenia AI.
– Nadzór etyczny: Zachęca do rozwoju AI w sposób zgodny z wartościami społecznymi i łagodzi potencjalne szkody.
Wady:
– Ograniczenie innowacji: Zbyt restrykcyjne regulacje mogą ograniczyć badania nad AI i rozwój, zwłaszcza dla początkujących startupów, które mogą nie dysponować środkami, aby zgodnie z przepisami prawnymi podążać za skomplikowanymi wymaganiami.
– Konkurencyjność globalna: Jeśli regulacje nie będą zharmonizowane międzynarodowo, kraje o mniej restrykcyjnych regulacjach mogą przyciągnąć więcej innowacji związanych z AI, co potencjalnie skutkować może podziałem technologicznym i ekonomicznym.
Zaproponowane powiązane linki:
– Aby dowiedzieć się więcej o Y Combinator i ich roli w wspieraniu startupów, odwiedź Y Combinator.
– Aby uzyskać informacje na temat regulacji i standardów dotyczących AI, zapoznaj się z oficjalną witryną Narodowego Instytutu Standardów i Technologii (NIST).
– Aby dowiedzieć się więcej o rządowych działaniach dotyczących zarządzania AI, informacje na temat dekretu wykonawczego w sprawie AI można zazwyczaj znaleźć na oficjalnej stronie internetowej Białego Domu.
Te zasoby dostarczają dodatkowych informacji na temat innowacji w dziedzinie AI, finansowania startupów oraz zmieniającego się krajobrazu regulacji i kwestii etycznych związanych z AI.