Scopul acestei noi funcții este de a proteja mai ales utilizatorii minori împotriva conținutului sexual, abuziv, care este distribuit pe platformă, precum și de a face mai dificilă contactarea adolescenților de către “prădători sexuali”. Meta a declarat că noua funcție de protejare, în mesajele directe, va folosi învățarea automată de pe dispozitiv pentru a analiza dacă o imagine trimisă prin serviciul său conține nuditate.
Instagram se va concentra, în special, pe combaterea exploatării sexuale, care presupune convingerea unei persoane să trimită fotografii indecente, urmată, de regulă, de amenințarea cu publicarea acestora, pentru a obține sume de bani sau favoruri sexuale. Această formă de șantaj folosește uneori conversațiile private dintre utilizatori.
Utilizatorii adulți vor primi o notificare care îi va încuraja să activeze noua funcție. Imaginile vor fi acoperite de un avertisment și ce va oferi totuși utilizatorului opțiunea de a le vedea. De asemenea, vor avea și opțiunea de a bloca persoana care a trimis poza și de a raporta conversația.
La rândul lor, persoanele care trimit mesaje directe care conțin nuditate, vor primi un mesaj care le va reaminti să fie prudente atunci când aleg să trimită “poze sensibile”. De asemenea, vor fi informați că pot anula trimiterea pozelor dacă se răzgândesc, dar că există posibilitatea ca alții să le fi văzut deja.
Meta a declarat, de asemenea, că testează o nouă tehnologie prin care pot identifica conturile care sunt implicate în escrocherii sexuale și testează mesaje pop-up pentru utilizatorii care au interacționat cu astfel de conturi.
Deși Meta deține și Facebook și WhatsApp, această funcție nu va fi adăugată la mesajele de pe celelalte platforme.
