OpenAI щойно представила революційну модель текст-відео під назвою Sora, здатну генерувати відео тривалістю до однієї хвилини на основі введених користувачем даних. Ця вражаюча технологія, хоча ще не доступна широкому загалу, викликала хвилю реакцій в онлайні. Тим часом ентузіасти ШІ активно досліджують можливості новинки, а інші висловлюють стурбованість щодо можливого відсутності роботи та поширення дезінформації.
Голова OpenAI Сем Альтман збудив захват, запросивши ідеї у користувачів та згенерувавши серію відео, включаючи черепаху, яка катиться на велосипеді по океану, кулінарний майстер-клас і навіть псів-домовласників, які ведуть подкаст у горах. Однак OpenAI пояснює, що Sora не буде відразу доступна для використання, і вони діляться своїми досягненнями, щоб отримати ранні відгуки від громадськості зі світу ШІ.
OpenAI, безумовно, перебуває на передовому рушіючого ШІ-революціі, яка розпочалася у 2022 році з популярними створеннями, такими як чат-бот ChatGPT і генератор тексту до зображень DALL-E. Sora, як їхній найновіший винахід, намагається навчити ШІ розуміти і відтворювати фізичні рухи у реальному світі, маючи на меті створення моделей, які допомагають вирішувати проблеми, що вимагають взаємодії з реальним світом.
Незважаючи на те, що Sora включає точність у генеруванні кількох персонажів і різних видів руху, вона час від часу може зіткнутися з складними сценами. OpenAI визнає, що модель ШІ іноді створює невідповідні ситуації, надмірно змінює об’єкти або навіть зникає деякі предмети, якіляється в їхньому блозі.
Цікаво, що реалістичні візуальні деталі, демонстровані в OpenAI, ускладнюють завдання відрізнити відео, створені ШІ, від відео, знятого у реальному житті, звичайним користувачам в Інтернеті. Це породжує побоювання щодо зростаючої поширеності deepfake з участю знаменитостей, політиків та інших осіб. Воно також підкреслює етичні та безпечні наслідки світу, в якому будь-хто зможе створювати високоякісні відео на будь-яку тему, особливо під час політично напружених періодів або глобальних конфліктів.
Федеральна комісія з торгівлі визнає потенційну шкоду, яку приносять deepfake, і запропонувала правила, що зробили б незаконним створення ШІ вражень реальних людей. FTC підкреслює загрозу, що становить поява нових технологій, таких як ШІ генеруваних deepfake, і обіцяє вжити заходи для запобігання шахрайству шляхом передачі чужого іміджу за допомогою ШІ.
OpenAI активно працює над розробкою інструментів для виявлення відео, створених Sora, і планує впровадити метадані, щоб позначити походження такого контенту, якщо модель стане доступною для публічного використання в майбутньому. Компанія також співпрацює з експертами, щоб вирішити проблеми, пов’язані з дезінформацією, ворожіським контентом та упередженістю.
OpenAI визнає, що, незважаючи на великий обсяг досліджень і тестувань, вони не можуть передбачити всі позитивні та негативні аспекти використання своєї технології. Тому вони наголошують на важливості навчання на реальних прикладах, коли вони прагнуть створити все більш безпечні ШІ системи з часом.
Загалом, Sora від OpenAI – це першокласна ШІ-модель текст-відео, яка дає нові можливості, але ставить важливі етичні та безпечні питання. У міру того, як ШІ-революція продовжує формувати наш світ, важливо, щоб інноватори і суспільство в цілому розуміли, як використовувати цю технологію відповідально.
The source of the article is from the blog be3.sk