Apple rafforza le linee guida: divieto per app di nudificazione e contenuti offensivi generati da AI
In Breve
- Quali sono le nuove misure introdotte da Apple?
- Apple ha introdotto un divieto per le app che utilizzano AI per contenuti offensivi e per quelle che mascherano il loro scopo durante la revisione.
- Cosa prevede il nuovo aggiornamento per le app generate dagli utenti?
- Le app devono filtrare contenuti offensivi, fornire strumenti di segnalazione e consentire il blocco di account abusivi.
- Qual è stato l'impatto delle nuove linee guida?
- Nel corso dell'anno precedente, Apple ha bloccato oltre 150.000 app e rimosso 193.000 account per frode.
Apple ha recentemente aggiornato le sue linee guida per gli sviluppatori, introducendo misure più severe contro le applicazioni che sfruttano l’intelligenza artificiale per generare contenuti offensivi. Tra le novità, spicca il divieto per le app che si presentano come normali durante il processo di revisione, per poi trasformarsi in applicazioni di nudificazione o evidenziare tali funzionalità.
Le nuove norme mirano a rafforzare i requisiti per le app che generano contenuti da parte degli utenti. Tali applicazioni dovranno ora implementare filtri per il materiale offensivo, fornire strumenti per la segnalazione di contenuti inappropriati e consentire agli utenti di bloccare account abusivi. Sono esplicitamente vietate le funzionalità nascoste o non documentate, comprese quelle che mascherano il proprio scopo durante la revisione e rivelano in seguito capacità dannose, una pratica nota come bait-and-switch.
In aggiunta, Apple ha chiarito che rimuoverà le app che introducono funzioni non presenti nella versione sottoposta a revisione. La sezione legale delle linee guida è stata aggiornata per rafforzare il divieto di app che promuovono il traffico di esseri umani e lo sfruttamento di minori.
Secondo quanto dichiarato dall’azienda, nel corso dell’anno precedente, il processo di revisione ha portato al blocco di oltre 150.000 app e alla rimozione di 193.000 account sviluppatori per frode e abusi. Queste misure seguono un ordine emesso a luglio dall’autorità di San Francisco, che ha richiesto a Apple e Google di rimuovere le app di nudificazione, accusando le aziende di trarre profitto dalle commissioni degli store.
Un rapporto di aprile aveva inoltre evidenziato la presenza di diverse app di nudificazione su entrambi gli store, alcune delle quali erano state valutate come adatte ai minori, sollevando preoccupazioni significative sulla sicurezza degli utenti più giovani.
Con queste nuove linee guida, Apple sembra voler adottare un approccio più rigoroso per garantire un ambiente più sicuro e responsabile all’interno del suo ecosistema di applicazioni.
redazione
Autore di Osservatorio Energia.