Изкуственият интелект има способността да предизвика както катастрофа, така и да доведе до „непоправим колапс“, което е обект на много спорове. Защо обаче експертите и суперпрогнозистите имат толкова различни гледни точки? Едно новаторско изследване се стремеше да разкрие причините за тези разногласия.
Изследването, което се проведе от Института за прогнозиране на риска, включваше експерти по изкуствен интелект и други екзистенциални рискове, както и „суперпрогнозисти“ с доказана репутация за точно предвиждане на световни събития. Изследователите попитаха и двете групи да оценят опасността, представена от изкуствения интелект.
Резултатите разкриха значително различие между двете групи. Експертите показваха по-високо ниво на загриженост и отделяха значително по-големи шансове за възможността от катастрофа, отколкото правеха суперпрогнозистите.
За да се задълбае в причините за този дълбок разногласие, авторите организираха „адвокатско сътрудничество“. Експертите и суперпрогнозистите прекараха известно време в четене на нови материали и участваха в дискусии с лица, които имаха противоположни мнения, посредством модератор. Целта беше да се определи дали изложението на нова информация и контрааргументи би повлияло на убежденията на някоя от групите.
Често задавани въпроси
- Какъв е потенциалът на изкуствения интелект да доведе до катастрофа?
Потенциалът на изкуствения интелект да предизвика катастрофа включва сценариите за човешко изчезване или непоправим колапс, където глобалният ВВП спада под 1 трилион долара или световното население спада до по-малко от 1 милион за продължителен период. - Какви са рисковете, свързани с изкуствения интелект?
Освен екстремните сценарии, споменати по-горе, другите рискове от изкуствения интелект включват расови и полови предразсъдъци в съществуващите системи, ненадеждност, злоупотреби за злонамерени цели като разпространяване на фалшиви новини или създаване на експлицитно съдържание без съгласие. - Дали излагането на различни мнения промени вярванията на участниците?
Въпреки обширното излагане на нова информация и противоположни аргументи, убежденията на участниците останаха почти непроменени. - Какви фактори допринесоха за различията в мненията?
Различията в мненията бяха в първата част на дългосрочната перспектива, като оптимистите вярваха, че постигането на изкуствен интелект на ниво човек ще отнеме повече време, отколкото песимистите предвиждат. Освен това, фундаменталните разногласия върху световната гледна точка играха значителна роля в формирането на различните гледни точки. - Какво представляват „фундаменталните разногласия в световногледа“?
„Фундаменталните разногласия в световната гледна точка“ се отнасят до различни гледни точки относно къде пада бремето на доказателството в дебата за изкуствения интелект.
Едно от най-интригуващите намиране на изследването беше идентифицирането на „фундаментални разногласия в световната гледна точка“ като значителен източник на разногласие. Тези разногласия се въртят около различни мнения за това къде пада тежестта на доказателството в дебата. Въпреки че двете групи се съгласяваха, че екстраординарни твърдения изискват съществена доказателствена база, те се разбраха относно това, кои твърдения следва да бъдат считани за екстраординарни.
За крайна точка, изследването осветли дълбоко заседналите причини за разногласията по отношение на опасностите, които изкуственият интелект представя. Подчерта важността на основни различия в световната гледна точка, дългосрочните перспективи и трудностите при признаването на екстраординарни твърдения. Въпреки че изследването не успя да пребори разделението в мненията, то предостави ценни съображения за източниците на деление по този спорен въпрос.
The source of the article is from the blog enp.gr