Згідно з повідомленням The Intercept, Microsoft недавно запропонував використання інструменту з генерації зображень від OpenAI, DALL-E, для допомоги Міністерству оборони (МО) у створенні програмного забезпечення для військових операцій. Це розкриття сталося невдовзі після того, як OpenAI скасувала свою попередню заборону на роботу в галузі оборони, що відкрило шлях для потенційних співпраць у цій галузі.
Презентація від Microsoft, під назвою “Generative AI з даними від МО”, розкриває, як МО може використовувати інструменти машинного навчання від OpenAI, зокрема їх відомого генератора тексту ChatGPT та створювача зображень DALL-E. Ці інструменти можуть бути застосовані до різних завдань, від аналізу документів до технічного обслуговування машин, у межах військових операцій. Значний інвестиційний вклад Microsoft в OpenAI сприяв тісному робочому партнерству між цими двома компаніями. Однак Microsoft та OpenAI матються з юридичними питаннями через використання журналістики без дозволу або згадки джерел.
Матеріали з документів від Microsoft були взяті з семінару з “AI literacy” від Міністерства оборони, який відбувся у жовтні 2023 року. Різні компанії з машинного навчання, у тому числі Microsoft та OpenAI, презентували свої пропозиції та можливості Пентагону на цьому заході.
Публічно доступні файли були виявлені на веб-сайті Alethia Labs, безкоштовної консалтингової фірми, яка допомагає уряду з придбання технологій. Журналіст Джек Поулсон виявив ці матеріали як частину свого загального дослідження презентації. Alethia Labs тісно працює з Пентагоном для оперативної інтеграції штучного інтелекту та має контракти з основним відділом штучного інтелекту Пентагону з минулого року.
ЧаП
Що таке система управління боєм?
Система управління боєм це набір програмного забезпечення управління-контролю, який використовується військовими лідерами для отримання всебічного огляду ситуації під час бойових сценаріїв. Вона дозволяє координацію дій, таких як артилерійський вогонь, ідентифікацію цілей для повітряних ударів та переміщення військ.
Як DALL-E може допомогти у системах управління боєм?
Використовуючи DALL-E, комп’ютери Пентагону можуть потенційно покращити свої можливості “бачення”. Генеративні зображення, створені DALL-E, дозволять комп’ютерам краще “бачити” та розуміти умови на полі бою. Це покращення значно допоможе в ідентифікації цілей та операціях з їх знищення.
Чи вже почали використовувати DALL-E для військових цілей Microsoft?
За заявою від Microsoft для The Intercept, хоча вони запропонували використання DALL-E для навчання програмного забезпечення для полів бою, наразі жодної реалізації ще не сталося. Microsoft наголошує, що це потенційні випадки використання, обговорені у ході розмов з клієнтами.
Чи продавало OpenAI які-небудь інструменти Міністерству оборони?
OpenAI заперечила участь у пропозиції Microsoft Пентагону та стверджує, що не продавала інструменти Міністерству оборони. Політика OpenAI строго забороняє використання їх інструментів для розробки зброї, завдання шкоди і знищення майна.
Представниця OpenAI Ліз Буржуа підкреслила, що моделі OpenAI не використовувалися в обсязі, описаному в матеріалах презентації. Більше того, OpenAI не має партнерств з оборонними агенціями специфічно для використання їх API чи ChatGPT у таких контекстах.
Беручи до уваги попередні політики OpenAI, військове застосування DALL-E було б забороненим. Microsoft уточнює, що якщо Пентагон вирішить використовувати DALL-E чи інші інструменти OpenAI через контракт з Microsoft, вони підпадатимуть під політику використання Microsoft. Однак використання технологій OpenAI для підвищення військових можливостей у вбивстві та знищенні відзначить важливу зміну для компанії, місія якої полягає у розробці безпечного штучного інтелекту для добра людства.
Бріанна Розен, візитуюча феллоу Блаватніківської школи уряду Оксфордського університету з акцентом на етику технологій, підкреслює етичні аспекти використання таких технологій. Вона підкреслює, що використання технологій OpenAI урядами, чи то для позитивних, чи для негативних цілей, фундаментально є політичним вибором.
Документ презентації не надає явних деталей про те, як DALL-E може бути впроваджений у системи управління боєм. Однак його посилання на навчання цих систем вказує на можливе застосування у постачанні Пентагону синтетичними тренувальними даними. Шляхом навчання військового програмного забезпечення широкими масивами штучних зображень, згенерованих DALL-E, програмне забезпечення може краще впізнавати відповідні цілі в реальних сценаріях, таких як ворожі позиції на землі.
Адресуючи етичні питання, Хейді ХлаАф, інженер зі стабільності машинного навчання, яка раніше працювала з OpenAI, питає про точність та надійність використання DALL-E для навчання програмного забезпечення для військових. ХлаАф стверджує, що генеративні зображення DALL-E наразі не мають достатньої достовірності у реальних умовах, що ушкоджує їх ефективність для налаштування систем управління боєм.
У висновку, хоча Microsoft запропонував використання DALL-E від OpenAI для військових операцій, на сьогодні жодної реалізації ще не настало. OpenAI відкидає участь у цій конкретній пропозиції і підкреслює свою готовність запобігати використанню їх інструментів для шкідливих цілей. Потенціал DALL-E у системах управління боєм ще залишається невідомим, з урахуванням аспектів точності, етичних наслідків та загальної місії OpenAI.
The source of the article is from the blog zaman.co.at