Meta, perusahaan induk dari Instagram dan Facebook, secara aktif berupaya membersihkan platformnya dari konten berbahaya. Mereka menggunakan berbagai teknologi canggih, mulai dari deteksi berbasis teks hingga analisis visual pada foto dan video, untuk memastikan keamanan pengguna. Komitmen ini sejalan dengan kebijakan keamanan yang komprehensif yang telah mereka tetapkan.
Antigone Davis, VP & Global Head of Safety Meta, menjelaskan dalam acara Peluncuran Cerdas Digital 2025 di Jakarta, Rabu (16/4), bahwa Meta memiliki “serangkaian kebijakan yang sangat dalam dan luas yang mencakup semua masalah yang bisa Anda lihat. Eksploitasi anak-anak, perundungan dan pelecehan, humor yang kejam dan tidak sensitif, kejahatan, penipuan, dan fraud.” Meta berkomitmen untuk menghapus konten yang melanggar kebijakan ini, serta akun yang terlibat dalam pelanggaran berulang.
Teknologi deteksi konten berbahaya Meta dilatih untuk mengenali sinyal-sinyal tertentu. Misalnya, beberapa teknologi fokus pada deteksi ketelanjangan dalam foto, sementara teknologi lain dilatih untuk memahami konteks dalam teks. Proses ini bersifat iteratif; pada awalnya, teknologi mungkin tidak selalu akurat, namun tim peninjau manusia akan mengkonfirmasi hasil penilaian teknologi, sehingga meningkatkan akurasi teknologi tersebut dari waktu ke waktu.
Setelah ribuan kali pembelajaran dari data yang telah dikonfirmasi oleh tim peninjau manusia, teknologi Meta akan semakin akurat dalam mendeteksi konten berbahaya. Teknologi ini juga mampu mendeteksi konten baru yang mirip atau hampir sama dengan konten berbahaya yang sudah teridentifikasi sebelumnya. Hal ini sangat penting untuk mencegah penyebaran cepat informasi yang salah, meme berbahaya, dan konten-konten lain yang bersifat viral.
Meskipun teknologi Meta sangat canggih, Davis mengakui bahwa beberapa kasus mungkin sulit dideteksi oleh sistem. Perundungan dan pelecehan, misalnya, seringkali bersifat sangat personal dan nuansanya sulit dipahami oleh teknologi. Contohnya, komentar yang tampaknya pujian (“baju yang bagus,” “rok yang bagus”) dapat memiliki niat merundung yang sulit dikenali oleh sistem.
Untuk mengatasi tantangan ini, Meta menyediakan fitur filter yang memungkinkan pengguna untuk memasukkan kata-kata atau frasa tertentu yang sering digunakan untuk merundung mereka. Dengan demikian, pengguna dapat secara pribadi menyaring konten yang tidak diinginkan dari pengalaman mereka di platform Meta. Inilah salah satu upaya Meta untuk memberdayakan pengguna dalam menjaga keamanan diri mereka sendiri.
Akun Remaja dan Fitur Keamanan Tambahan
Sebagai komitmen untuk meningkatkan keamanan pengguna muda, Meta mengumumkan fitur keamanan tambahan untuk Akun Remaja Instagram. Fitur ini bertujuan untuk memperkuat perlindungan bagi pengguna remaja, dan sekaligus menjawab kekhawatiran orang tua dan pemerintah mengenai keselamatan remaja di dunia digital.
Beberapa fitur keamanan tambahan tersebut antara lain pembatasan baru untuk Instagram Live dan gambar yang tidak diinginkan dalam DM. Remaja di bawah 16 tahun tidak akan dapat melakukan sesi Instagram Live tanpa izin orang tua. Mereka juga memerlukan izin orang tua untuk mematikan fitur yang memburamkan gambar yang mengandung ketelanjangan dalam DM. Pembaruan ini direncanakan akan tersedia dalam beberapa bulan mendatang.
Secara keseluruhan, upaya Meta dalam membersihkan konten berbahaya merupakan proses yang terus berkembang dan membutuhkan pendekatan multi-faceted. Kombinasi teknologi canggih, tinjauan manusia, dan fitur yang memberdayakan pengguna adalah kunci keberhasilan dalam menciptakan lingkungan online yang lebih aman. Namun, penting untuk diingat bahwa teknologi bukan solusi sempurna, dan edukasi serta literasi digital bagi pengguna tetap sangat penting.
Selain itu, penting bagi Meta untuk berkolaborasi dengan pakar dan organisasi terkait untuk terus mengembangkan teknologi dan kebijakan yang lebih efektif dalam menanggulangi berbagai bentuk konten berbahaya. Transparansi juga berperan penting dalam membangun kepercayaan pengguna terhadap upaya yang dilakukan Meta dalam menjaga keamanan platformnya.
