OpenAI недавно представила свій новий інструмент для генерації відео під назвою Sora, який має здатність створювати відео на основі одного рядка тексту. Хоча цей прогрес є значним кроком в технології штучного інтелекту, все більше зростає обурення щодо можливого зловживання цим.
Модель Sora демонструє розуміння того, як об’єкти існують у фізичному світі, що дозволяє їй точно інтерпретувати реквізит та генерувати переконливих персонажів з яскравими емоціями. OpenAI продемонструвала можливості інструменту за допомогою різних прикладів, включаючи фотореалістичне відео жінки, що йде по дощовій вулиці Токіо, та інше, де величезні волохаті мамонти йдуть по засніженій луці.
Однак випуск цього інструменту викликав як скептицизм, так і занепокоєння. Рейчел Тобак, член технічної ради агентства кібербезпеки та інфраструктурної безпеки США (CISA), висловила обурення щодо ризиків, пов’язаних з моделлю штучного інтелекту. Вона висвітлила можливість використання інструменту для обману, маніпуляції, рибальства та плутанини серед громадськості.
Ще одним обуренням пов’язаним із питаннями щодо авторських прав та конфіденційності. Ед Ньютон-Рекс, генеральний директор неприбуткової фірми з штучного інтелекту Fairly Trained, підкреслює потребу в прозорості та згоді від творців навчальних даних, які використовуються моделлю. Відсутність інформації від OpenAI з цих питань викликає питання і підсилює сумніви щодо інструменту.
У відповідь на ці обурення OpenAI заявляє, що активно співпрацює з митцями, законодавцями та експертами галузі, щоб забезпечити безпеку та відповідне використання технології. Вони працюють з командою “червоної” з кібербезпеки та розробляють інструменти виявлення, що можуть ідентифікувати обманливий контент, що генерується Sora.
Хоча компанія визнає можливість зловживання, вони вважають, що важливим є навчання на основі реальної практики для вдосконалення та покращення безпеки своїх систем штучного інтелекту з часом.
Важливо визнати подвійний характер технологічних здобутків, оцінивши інновацію, а також вирішивши етичні та питання безпеки, що виникають. Інструмент для генерації відео від OpenAI має потенціал революціонізувати різні галузі, але надзвичайно важливо забезпечити відповідні заходи безпеки та відповідальне використання для зменшення можливих ризиків.
Сора: Інструмент для генерації відео від OpenAI
Сора – це новий інструмент для генерації відео від OpenAI, який може створювати відео на основі одного рядка тексту. Цей інструмент демонструє розуміння об’єктів у фізичному світі, точно інтерпретуючи реквізити та генеруючи персонажів з яскравими емоціями. OpenAI продемонструвала його можливості за допомогою прикладів, наприклад, фотореалістичного відео жінки, яка йде по дощовій вулиці Токіо, і великих волохатих мамонтів, що йдуть по засніженій луці.
Обурення щодо можливого зловживання
Існують обурення щодо потенційного зловживання Сорою. Рейчел Тобак, член агентства кібербезпеки та інфраструктурної безпеки (CISA), підкреслює ризики обману, маніпуляції, рибальства та плутанини серед громадськості, які може призвести модель штучного інтелекту.
Питання авторських прав та конфіденційності
Ще одним обуренням є питання авторських прав та конфіденційності. Ед Ньютон-Рекс, генеральний директор Fairly Trained, підкреслює необхідність прозорості та згоди творців навчальних даних, які використовуються Сорою. Відсутність інформації від OpenAI з цих питань породжує питання і сумніви щодо використання інструменту.
Відповідь OpenAI
OpenAI активно співпрацює з митцями, законодавцями та експертами галузі, щоб забезпечити безпеку та відповідне використання технології. Вони також співпрацюють з командою “червоних” для розробки інструментів виявлення, які можуть ідентифікувати обманливий контент, створений Сорою.
Визнання етичних та питань безпеки
Хоча OpenAI визнає можливість зловживання, вони вважають, що важливо навчатися на підставі реальної практики для вдосконалення та поліпшення безпеки своїх систем штучного інтелекту з часом. Вони підкреслюють важливість збалансованості інновацій з етичними та питаннями безпеки.
The source of the article is from the blog jomfruland.net