I filtri automatici dei social network sono in teoria un’ottima invenzione: evitano che vengano caricati contenuti in contrasto con le politiche della piattaforma senza dover impiegare un esercito di dipendenti umani.
La pratica è però un’altra cosa. Il problema principale sono i falsi positivi, fenomeni che capitano quando – per esempio – immagini assolutamente innocenti vengono scambiate per fotografie inappropriate.
Qualcuno di questi falsi positivi è tuttavia persino divertente, come dimostra il caso dell’utente kyjaotkb del sito MacRumors.
Stava cercando un compratore per il proprio Apple PowerMac G4 e, a questo scopo, ha tentato di caricare qualche foto su Facebook. La scure del filtro l’ha colpito subito: le immagini sono state censurate perché «overtly sexual», ossia contenenti troppi riferimenti sessuali.
Come abbiano potuto i filtri di Facebook scambiare un computer ormai quasi vintage per una foto osé resta un po’ un mistero, ma un’ipotesi in proposito la formula kyjaotkb stesso, il quale nel proprio post scrive: «Sto cercando di vendere un vecchio tower G4 su Facebook, ma la loro IA è rimasta turbata dalle curve sexy del mio G4 MDD. Di certo non succederebbe con un pezzo di metallo moderno! Mi fa venir voglia di tenermelo…».
D’altra parte, forse c’era da aspettarselo: si può immaginare che un design ammiccante e “tutto curve” come quello del PowerMac G4 riesca a far venire i bollori a un’intelligenza artificiale probabilmente abituata a stare a contatto tutto il giorno con degli anonimi server.
Qui sotto, l’immagine incriminata.
