Гари Тан призовава за разумни правила за изкуствен интелект
По време на дискусия в Икономическия клуб във Вашингтон, главният изпълнителен директор на Y Combinator, Гари Тан, подчерта неотложната нужда от правила в индустрията на изкуствения интелект. Говорейки с Тереза Карлсън от Венчър капиталист Фърм Бейсик Каталист, той изрази широка подкрепа за регулаторни мерки подобни на тези, които се разработват от Националния институт за стандарти и технологии (NIST).
В разговора си с Тан, бяха обсъдени теми, свързани с включването в Y Combinator до сегашния пейзаж на технологиите за изкуствен интелект, където той забеляза, че никога не е имало по-добро време за занимаване се с технологична работа. Той подкрепи изпълнителния указ на администрацията на Байдън, който цели да установи редица задължителни правила за агенциите, фокусирани върху изкуствения интелект, от споделяне на данни за сигурността до предоставяне на равен достъп до малките разработчици.
Тан подчерта, че рамката на NIST предлага няколко инициативи, като гарантиране на спазването на изкуствения интелект на съществуващите правила, които уреждат поверителността на данните и авторското право, разкриването на използването на генеративен изкуствен интелект на крайния потребител и прилагането на правила, предотвратяващи генерирането на материали, изобразяващи сексуално експлоатиране на деца.
Въпреки одобрението на федералните регулации, Тан изрази загриженост относно законодателни предложения в Калифорния и Сан Франциско, описвайки ги като особено тревожни. Това включва законопроект, представен от щатния сенатор Скот Уийнър, който би позволявал правни действия срещу компаниите за изкуствен интелект, ако техните продукти се смятат за вредни.
Етичният път на изкуствения интелект
Тан подчерта необходимостта от обстойна дискусия за „какво наистина изглежда добра версия на [регулацията за изкуствения интелект]“, като посочи личности като Иън Хогарт от Обединеното кралство, който подчертава върху контрола и насърчава иновациите, докато смекчава възможните вреди.
Подходът на Y Combinator към етичната отговорност е ясен; те не финансират стартиращи фирми, ако не се съгласяват с тяхната мисия или потенциалния им обществен влияние, заяви Тан. Дори когато преглеждат минали кандидатствания, които правят заглавия, Тан разкри, че често откриват, че техните първоначални решения за неинвестиране бяха за благото на обществото.
Настъпление на стартиращи фирми в областта на изкуствения интелект, въпреки притесненията
Въпреки резервите относно управлението на изкуствения интелект, Y Combinator продължава да подкрепя множество фирми за изкуствен интелект. Според техния списък със стартиращи фирми, зимният кръг за 2024 г. видя нарастване до 86 фирми за изкуствен интелект, почти двойно повече от кръга за 2023 г.
Скорошните високопоставени грешки от лидери в областта на изкуствения интелект породиха въпроси за надеждността на продавачите на продукти за изкуствен интелект. Примери за това са премахването на екипа по етика на AI от OpenAI и спорното използване на глас, приличащ на Скарлет Йохансън в презентация на новия GPT-4.
Гледайки напред, Тан е оптимистичен за индустрията на изкуствения интелект, предвиждайки технологична екосистема, пълна с избор и основатели, способни да достигнат до милиарди хора. Най-голямата му страх не е злонамерен изкуствен интелект, а по-скоро липсата на избор в моделите на изкуствения интелект, което може да доведе до монополизация – свят, в който той твърдо не желае да обитава.
Ключови въпроси и отговори:
– Каква е позицията на главния изпълнителен директор на Y Combinator относно регулирането на изкуствения интелект? Гари Тан подкрепя разумни правила за изкуствения интелект, които гарантират отговорно иновиране, като тези, разработвани от NIST. Той подчертава важността на правилата за насочване на етичното развитие и използване на изкуствения интелект.
– На кои регулаторни рамки се позовава Гари Тан? Тан се позовава на изпълнителния указ на администрацията на Байдън и инициативи на NIST, които целят да гарантират, че изкуственият интелект спазва съществуващите закони за поверителност на данните и авторското право, сред другото.
– За какви проблеми се загрижен е Тан относно регулирането на изкуствения интелект? Тан е загрижен за прекалено строгата законодателна рамка на щатово ниво, като законопроект в Калифорния, който може да доведе до правни действия срещу компаниите за изкуствен интелект, ако техните продукти се считат за вредни, което потенциално може да спре иновациите.
– Има ли Y Combinator етичен подход към стартиращите фирми за изкуствен интелект? Да, Y Combinator не финансира стартиращи фирми, ако тяхната мисия или потенциалните обществени въздействия са спорни, съгласувайки своите инвестиции с етични предвидения.
Ключови предизвикателства и контроверзии:
– Баланс между иновациите и регулацията: Затруднението се състои в създаването на правила, които защитават обществото без пречене на технологичното развитие и задушаване на стартиращите фирми с изкуствен интелект.
– Монополизация на изкуствения интелект: Тан се страхува, че липсата на избор в моделите на изкуствения интелект може да доведе до монополизация, намалявайки иновациите в индустрията и възможностите за потребителите.
– Доверие в изкуствения интелект: Високопоставените инциденти породиха съмнения относно надеждността на продуктите с изкуствен интелект и ангажирането на компаниите за изкуствен интелект с етични аспекти – например, разпускането на екип по етика от OpenAI.
Предимства и Недостатъци на Регулирането на Изкуствения Интелект:
Предимства:
– Защита на потребителите: Регулациите могат да защитят потребителите от нарушения на поверителността и отклонения или дефекти в изкуствените интелект решения.
– Стандартизация: Предоставя обединен комплект стандарти и насоки, които разработчиците и компаниите за изкуствен интелект могат да спазват за отговорно внедряване на изкуствен интелект.
– Етичен Надзор: Поощрява развитието на изкуствен интелект по начин, съобразен с обществените ценности и намаляващ възможните щети.
Недостатъци:
– Ограничаване на Иновациите: Прекалено строгите регулации могат да пречат на изследователската и развойна дейност в областта на изкуствения интелект, особено за разработващите стартиращи фирми, които може да липсват ресурси за спазване на сложни законови изисквания.
– Глобална Конкурентоспособност: Ако регулациите не се хармонизират международно, държавите с по-малко строги регулации могат да привлекат повече иновации в областта на изкуствения интелект, което може да доведе до технологично и икономическо разделение.
Препоръчителни Свързани Връзки:
– За да научите повече за Y Combinator и тяхната роля в подкрепата на стартиращи фирми, посетете Y Combinator.
– За мнения във връзка с регулациите и стандартите за изкуствения интелект, изследвайте официалния сайт на Националния институт за стандарти и технологии (NIST).
– За усилията на правителствата в областта на управлението на изкуствения интелект, информация за изпълнителния указ относно изкуствения интелект обикновено може да се намери на официалния уебсайт на Белия дом.
Тези ресурси предоставят допълнителна информация за иновациите в областта на изкуствения интелект, финансирането на стартиращи фирми и промените в пейзажа на регулацията и етичните предвидения относно изкуствения интелект.