L’algoritmo dei Reel di Instagram, parte del colosso Meta, ha sollevato preoccupazioni per la sicurezza dei minori. Un’indagine del Wall Street Journal rivela che, seguendo determinati account di giovani influencer, l’algoritmo ha iniziato a suggerire contenuti inappropriati e sessuali, accanto a pubblicità di grandi marchi. Insomma, Instagram mostra contenuti per adulti anche a chi non dovrebbe.
Il controverso algoritmo di Instagram che mostra contenuti adulti (vietati) anche ai minori
Il test, portato avanti dal Wall Street Journal, che ha coinvolto la creazione di account destinati a seguire giovani influencer come ginnasti e cheerleader, ha mostrato che l’algoritmo di Instagram ha iniziato a proporre contenuti per adulti, tra cui video a sfondo sessuale riguardanti adulti e minori, e inserzioni pubblicitarie di noti brand statunitensi.
L’indagine ha svelato una tendenza allarmante: gli account che seguivano questi giovani venivano esposti a una miscela preoccupante di pornografia e materiali che sessualizzavano i bambini. Esperti in sistemi di raccomandazione algoritmici hanno evidenziato come tali contenuti “di nicchia” possano fornire segnali più forti rispetto a quelli di interesse generale, spingendo l’algoritmo a direzionare contenuti inappropriati verso gli utenti.
Leggi anche: Il segreto di Pulcinella viene svelato: milioni di utenti minorenni su Instagram
Il problema dell’aggregazione su Instagram dei contenuti per adulti era noto internamente e la prevenzione di tale diffusione richiede modifiche significative agli algoritmi di raccomandazione. Tuttavia, documenti aziendali mostrano che al personale di sicurezza è ampiamente vietato apportare modifiche alla piattaforma che possano ridurre il numero di utenti attivi giornalieri.
In risposta, Meta ha dichiarato di investire miliardi in soluzioni di sicurezza, sicurezza e idoneità del marchio, pur ammettendo la necessità di ulteriori miglioramenti. Diverse aziende, tra cui Match Group e Bumble, hanno sospeso o ridotto la loro pubblicità su Reels e altre piattaforme Meta in seguito a queste scoperte. Altre, come Disney e Hims, stanno premendo Meta per evitare tali posizionamenti pubblicitari e hanno espresso preoccupazione per l’associazione dei loro brand a tali contenuti.
