Искусственный интеллект (ИИ) стал доминирующей силой в нашем мире с появлением ChatGPT и GPT-4. С каждой неделей объявляются о новых возможностях, и дебаты вокруг ИИ все более затягиваются. Будет ли он создавать лучший мир, или приведет к потере рабочих мест и обнищанию людей? Перспектива искусственного общего интеллекта (AGI), когда ИИ может превосходить людей во всех когнитивных навыках, вызывает опасения относительно контроля и потенциальных опасностей, как это показано в фильмах, например, «Терминатор».
Книга «Приходящая волна: ИИ, власть и наибольшая дилемма XXI века», написанная Мустафой Сулейманом, одним из сооснователей DeepMind AI, предлагает бесценные умозаключения по этой сложной теме. Знания Сулеймана в области ИИ придают его взглядам на будущее человечества с ИИ значительную достоверность.
Сулейман выделяет четыре ключевых характеристики ИИ. Во-первых, это асимметричная технология, способная генерировать огромные объемы текста и потенциально позволяющая операторам запускать летальные беспилотные аппараты с минимальными ресурсами. Во-вторых, ИИ обладает потенциалом для гиперэволюции, превышающей скорость роста, наблюдаемую в любой другой сфере. В-третьих, ИИ не является узкофункциональной технологией, подобной рентгену; у него есть потенциал проникать в каждый аспект повседневной жизни, общества и экономики. Наконец, ИИ обладает автономией, делая его способным к самообучению и все более непредсказуемым.
Однако регулирование ИИ представляет существенные трудности. В отличие от количественных проблем, таких как регулирование выбросов автомобилей, общепризнанная технология, подобная ИИ, намного сложнее удержать под контролем. Более того, исследователи и изобретатели, порождаемые любопытством и амбициями, могут быть несклонны ограничивать свой потенциал в инновациях. Экономические стимулы для развития ИИ огромны, и прибыли, которые можно получить, непредставимы. Кроме того, в то время как ядерные электростанции жестко регулируются, создание ИИ-инструментов остается доступным для отдельных лиц, что вызывает опасения относительно потенциального неправомерного использования мощного ИИ злонамеренными действующими лицами.
Сулейман предлагает несколько решений для решения этих проблем. Внедрение сильной технической системы безопасности, подобной тем, которые регулируют ядерную энергетику, может гарантировать ответственное развитие ИИ. Также необходимы строгие проверки новых ИИ-инструментов и организованные испытания для выявления слабостей или рисков сбоев. Правительства могут поучиться на примере событий, таких как ежегодное «красное тестирование» в Индии, где проводятся контролируемые атаки для выявления уязвимостей.
По мере продвижения ИИ крайне важно найти баланс между использованием его потенциальных преимуществ и смягчением рисков. Регулирование и ответственное развитие существенны для того, чтобы ИИ служил человечеству и нашей планете.
The source of the article is from the blog japan-pc.jp