Garry Tan fordert vorsichtige KI-Vorschriften
Während einer Diskussion im Wirtschaftsclub in Washington betonte der CEO von Y Combinator, Garry Tan, die bevorstehende Notwendigkeit von Vorschriften in der künstlichen Intelligenz-Industrie. Im Gespräch mit Teresa Carlson von der Venture Capital-Firma Basic Catalyst äußerte er seine breite Unterstützung für regulatorische Maßnahmen, die denen ähneln, die vom National Institute of Standards and Technology (NIST) entwickelt werden.
Im Gespräch mit Tan wurden Themen von der Aufnahme in Y Combinator bis zur aktuellen Landschaft der KI-Technologie behandelt, wo er feststellte, dass es noch nie einen besseren Zeitpunkt gegeben hat, um sich mit Technologiearbeit zu beschäftigen. Er unterstützte die Exekutivanordnungen der Biden-Regierung, die darauf abzielen, eine Reihe von Vorschriften für KI-fokussierte Behörden festzulegen, von der Datenteilung zur Sicherheit bis hin zur Bereitstellung eines gerechten Zugangs für kleine Entwickler.
Tan wies darauf hin, dass der Rahmen des NIST mehrere Initiativen vorschlägt, wie die Sicherstellung, dass KI mit bestehenden Vorschriften, die den Datenschutz und das Urheberrecht regeln, übereinstimmt, die Offenlegung der Verwendung von generativer KI gegenüber Endbenutzern und die Implementierung von Regeln zur Verhinderung der Erzeugung von Materialien, die die sexuelle Ausbeutung von Kindern darstellen.
Trotz seiner Zustimmung zu bundesstaatlichen Vorschriften äußerte Tan Bedenken über Gesetzesvorschläge in Kalifornien und San Francisco, die er als besonders problematisch bezeichnete. Dazu gehört ein von Senator Scott Wiener eingebrachter Gesetzesentwurf, der rechtliche Schritte gegen KI-Unternehmen ermöglichen würde, wenn ihre Produkte als schädlich eingestuft werden.
Der ethische Kurs der KI
Tan betonte die Notwendigkeit einer durchdachten Diskussion darüber, „wie eine gute Version [von KI-Regulierung] wirklich aussieht“, und verwies auf Persönlichkeiten wie Ian Hogarth im Vereinigten Königreich, die den Schwerpunkt auf Kontrollen und Gleichgewicht legen und Innovationen fördern, während potenzielle Schäden minimiert werden.
Y Combinators Ansatz zur ethischen Verantwortung ist klar: Sie finanzieren keine Startups, wenn sie mit deren Mission oder potenziellen gesellschaftlichen Auswirkungen nicht einverstanden sind, erklärte Tan. Selbst wenn sie frühere Bewerber erneut prüfen, die Schlagzeilen machen, geben Tan bekannt, dass sie oft feststellen, dass ihre anfängliche Entscheidung, nicht zu investieren, zum Wohl der Gesellschaft war.
KI-Startups blühen trotz Bedenken auf
Trotz Bedenken bezüglich der KI-Governance fördert Y Combinator weiterhin eine Vielzahl von KI-Startups. Laut ihrem Startup-Verzeichnis verzeichnete die Winterkohorte 2024 einen Anstieg auf 86 KI-Unternehmen, fast das Doppelte der Kohorte von 2023.
Kürzliche hochkarätige Fehltritte von KI-Führungskräften haben Fragen zur Vertrauenswürdigkeit von KI-Produktverkäufern aufgeworfen. Die Abschaffung des KI-Ethik-Teams von OpenAI und die kontroverse Verwendung einer Stimme, die der von Scarlett Johansson ähnelt, in einer neuen GPT-4-Präsentation illustrieren die Überprüfung, die KI-Unternehmen erfahren.
Ausblickend ist Tan optimistisch hinsichtlich der KI-Branche und sieht ein technologisches Ökosystem voller Verbraucherwahl und Gründer, die in der Lage sind, eine Milliarde Menschen zu erreichen. Seine größte Angst ist nicht bösartige KI, sondern vielmehr ein Mangel an Auswahl bei KI-Modellen, was zu Monopolisierung führen könnte – eine Welt, die er entschieden nicht bewohnen möchte.
Schlüsselfragen und Antworten:
– Welche Position vertritt der CEO von Y Combinator in Bezug auf KI-Regulierung? Garry Tan unterstützt vorsichtige KI-Vorschriften, die eine verantwortungsbewusste Innovation sicherstellen, ähnlich denen, die vom NIST entwickelt werden. Er betont die Bedeutung von Vorschriften bei der lenkenden ethischen Entwicklung und Nutzung von KI.
– Auf welche regulatorischen Rahmenbedingungen bezieht sich Garry Tan? Tan verweist auf die Exekutivanordnung der Biden-Regierung und Initiativen des NIST, die darauf abzielen, sicherzustellen, dass KI mit bestehenden Datenschutz- und Urheberrechtsbestimmungen im Einklang steht, unter anderem.
– Welche Bedenken hat Tan bezüglich KI-Regulierungen? Tan ist besorgt über übermäßig restriktive gesetzliche Vorschläge auf Landesebene, wie beispielsweise ein kalifornischer Gesetzesentwurf, der rechtliche Schritte gegen KI-Unternehmen ermöglichen könnte, wenn ihre Produkte als schädlich erachtet werden, und potenziell die Innovation ersticken könnte.
– Hat Y Combinator eine ethische Haltung gegenüber KI-Startups? Ja, Y Combinator finanziert keine Startups, wenn ihre Mission oder potenziellen gesellschaftlichen Auswirkungen nicht vertretbar sind, und stimmt ihre Investitionen mit ethischen Erwägungen überein.
Wesentliche Herausforderungen und Kontroversen:
– Balance zwischen Innovation und Regulierung: Die Schwierigkeit besteht darin, Vorschriften zu schaffen, die die Gesellschaft schützen, ohne technologische Fortschritte zu behindern und KI-basierte Startups zu ersticken.
– Monopolisierung von KI: Tan befürchtet, dass ein Mangel an Verbraucherwahl bei KI-Modellen zu Monopolisierung führen könnte, was die Brancheninnovation und Verbraucheroptionen verringern könnte.
– Vertrauen in KI: Hochkarätige Vorfälle haben Zweifel an der Vertrauenswürdigkeit von KI-Produkten und dem Engagement von KI-Unternehmen für ethische Erwägungen aufgeworfen – zum Beispiel die Auflösung des Ethikteams von OpenAI.
Vorteile und Nachteile der KI-Regulierung:
Vorteile:
– Verbraucherschutz: Vorschriften können Verbraucher vor Datenschutzverletzungen und voreingenommenen oder fehlerhaften KI-Entscheidungen schützen.
– Standardisierung: Bietet einen einheitlichen Satz von Standards und Richtlinien, denen sich KI-Entwickler und Unternehmen für die verantwortungsvolle Bereitstellung von KI anschließen können.
– Ethische Aufsicht: Fördert die Entwicklung von KI in einer Weise, die mit gesellschaftlichen Werten vereinbar ist und potenzielle Schäden minimiert.
Nachteile:
– Einschränkung von Innovationen: Übertrieben strenge Vorschriften könnten die KI-Forschung und -Entwicklung behindern, insbesondere für junge Startups, die möglicherweise nicht über die Ressourcen verfügen, um komplexe rechtliche Anforderungen zu erfüllen.
– Globale Wettbewerbsfähigkeit: Wenn die Vorschriften nicht international harmonisiert sind, könnten Länder mit weniger strengen Vorschriften mehr KI-Innovationen anziehen, was potenziell zu einer technologischen und wirtschaftlichen Kluft führen könnte.
Vorgeschlagene verwandte Links:
– Um mehr über Y Combinator und ihre Rolle bei der Unterstützung von Startups zu erfahren, besuchen Sie Y Combinator.
– Für Einblicke in KI-Regulierungen und -Standards erkunden Sie die offizielle Website des National Institute of Standards and Technology (NIST).
– Informationen zu staatlichen Bemühungen um KI-Governance können in der Regel auf der offiziellen Website des Weißen Hauses gefunden werden.
Diese Ressourcen bieten weitere Informationen über KI-Innovation, Finanzierung für Startups und den sich entwickelnden Bereich der KI-Regulierung und ethischen Überlegungen.