L’AI generatore di immagini di Microsoft, Copilot Designer, è sotto esame mentre l’ingegnere Shane Jones avverte dei potenziali pericoli. Jones, in un’intervista con CNBC, ha espresso preoccupazioni riguardo alle immagini disturbanti e strane prodotte dallo strumento. Nonostante i suoi sforzi per sensibilizzare all’interno di Microsoft, Jones si è ora rivolto ai regolatori governativi per intervenire.
Uno degli esempi citati da Jones include il generatore di immagini AI che ha prodotto immagini di demoni e sangue quando è stato sollecitato con la frase “pro-choice”. Un’altra istanza ha coinvolto immagini di donne sessualizzate in lingerie accanto a incidenti stradali violenti quando sollecitato con “incidente stradale”. Sebbene Jones riconosca che queste immagini violano le linee guida di AI responsabile di Microsoft, l’azienda non ha risposto adeguatamente alle sue richieste di sospendere il generatore di immagini.
Copilot Designer opera sul generatore di immagini di OpenAI, Dall-E 3, insieme ad altri strumenti AI di Microsoft. Nonostante le critiche e i problemi di moderazione dei contenuti, Microsoft sembra improbabile che metta in pausa Copilot Designer. Tuttavia, recenti incidenti che coinvolgono altri generatori di immagini AI, come la pausa temporanea di Google Gemini per motivi di sicurezza, indicano le sfide in corso nel fornire adeguati salvaguardie per i prodotti AI.
Il problema più ampio della moderazione dei contenuti e delle salvaguardie negli strumenti AI ha scatenato una significativa controversia. Sebbene questi strumenti abbiano il potenziale per generare contenuti innovativi e creativi, la mancanza di salvaguardie efficaci solleva preoccupazioni riguardo al loro impatto sulle norme e i valori della società. Mentre la tecnologia continua a progredire, trovare un equilibrio tra creatività e implementazione responsabile dell’AI rimane una sfida cruciale sia per gli sviluppatori che per i regolatori.
**Sezione FAQ:**
**Q: Cos’è Copilot Designer, l’AI generatore di immagini di Microsoft?**
**R:** Copilot Designer è uno strumento AI sviluppato da Microsoft che genera immagini basate su input e sollecitazioni dell’utente.
**Q: Quali preoccupazioni sono state sollevate su Copilot Designer?**
**R:** L’ingegnere Shane Jones ha espresso preoccupazioni riguardo alle immagini disturbanti e strane generate da Copilot Designer. Ha notato casi in cui lo strumento ha prodotto immagini di demoni e sangue quando sollecitato con determinate frasi, oltre a donne sessualizzate in lingerie accanto a incidenti stradali violenti.
**Q: Ha risposto Microsoft alle preoccupazioni sollevate su Copilot Designer?**
**R:** Nonostante gli sforzi da parte di Jones per sensibilizzare all’interno di Microsoft, l’azienda non ha risposto adeguatamente alle sue richieste di sospendere il generatore di immagini.
**Q: Cos’è il generatore di immagini AI, Dall-E 3?**
**R:** Dall-E 3 è un generatore di immagini sviluppato da OpenAI che viene utilizzato da Copilot Designer, insieme ad altri strumenti AI di Microsoft.
**Q: Microsoft ha considerato di mettere in pausa Copilot Designer?**
**R:** Nonostante le critiche e i problemi di moderazione dei contenuti, Microsoft sembra improbabile che metta in pausa Copilot Designer, come indicato dalla risposta dell’azienda alle preoccupazioni di Jones.
**Q: Altri generatori di immagini AI hanno affrontato preoccupazioni sulla sicurezza?**
**R:** Sì, incidenti che coinvolgono altri generatori di immagini AI, come Google Gemini, hanno portato a pause temporanee per motivi di sicurezza.
**Termini e gergo chiave:**
– AI: Intelligenza Artificiale, si riferisce allo sviluppo di sistemi informatici in grado di svolgere compiti tipicamente richiesti dall’intelligenza umana.
– Generatore di immagini: Si riferisce a software o strumenti AI in grado di creare o generare immagini in base a vari input o sollecitazioni.
– Moderazione dei contenuti: L’atto di monitorare e controllare i contenuti online per garantire il rispetto di determinate linee guida o standard.
– Salvaguardie: Misure o precauzioni adottate per proteggersi da potenziali rischi o pericoli.
– Norme e valori sociali: Si riferisce al comportamento accettato, alle attitudini e alle credenze all’interno di una specifica società o comunità.
**Link correlati suggeriti:**
– [Microsoft](https://www.microsoft.com/it-it)
– [OpenAI](https://www.openai.com/)
– [CNBC](https://www.cnbc.com/)
The source of the article is from the blog girabetim.com.br