Musi Rawas, Perssilam News - Meta Platforms meluncurkan fitur baru untuk menjaga keselamatan remaja. Perusahaan akan mengirim peringatan kepada orang tua jika anak mereka bicara soal bunuh diri dengan Meta AI. Penjelasan ini keluar pada Kamis, 16 Juli 2026. Langkah ini adalah bagian dari upaya Meta melindungi remaja yang berinteraksi dengan chatbot kecerdasan buatan. Banyak regulator dan orang tua merasa cemas. Mereka khawatir bagaimana AI menjawab pengguna yang sedang mengalami krisis mental. Masalah tanggung jawab perusahaan AI kini jadi poin penting dalam pengembangan produk. Meta membuat sistem AI khusus untuk mendeteksi keyword atau kalimat yang menunjukkan niat menyakiti diri sendiri. Namun, Meta tidak langsung mengirim notifikasi. Staf manusia akan memeriksa semua obrolan yang ditandai AI secara manual.
Advertising
Meta mengutip laporan TechCrunch pada Jumat, 17 Juli 2026. Mereka tahu peringatan seperti ini bisa sangat mengejutkan orang tua. Peninjauan manual dilakukan agar pemberitahuan yang dikirim akurat dan tidak salah sasaran. Jika isi percakapan terasa ambigu atau tidak jelas, Meta memilih untuk tetap memberi tahu orang tua. Mereka menganggap ini langkah awal yang aman. Meta akan terus memantau efektivitas fitur ini ke depannya. Saat ini fitur ini hanya tersedia untuk pengguna Instagram Parental Supervision. Fitur tersebut aktif di Amerika Serikat, Inggris, Australia, dan Kanada. Meta berencana membawa fitur ini ke seluruh dunia termasuk Indonesia pada akhir tahun 2026.
Ini bukan fitur keselamatan pertama dari Meta. Sebelumnya, Meta sudah memberi peringatan jika akun remaja sering mencari kata kunci bunuh diri di Instagram. Sekarang ada tambahan fitur baru. Orang tua bisa melihat daftar topik yang dibahas anak mereka dengan Meta AI selama satu minggu terakhir. Meta juga menerapkan pengaturan Limited Content untuk Meta AI. Orang tua bisa mengatur agar pengalaman Instagram anak mereka menjadi lebih ketat. Meta AI sudah dilatih untuk menolak diskusi soal seks, romansa, atau alkohol dengan remaja. Pengaturan Limited Content membuat chatbot ini lebih tegas menolak permintaan yang tidak pantas.
Selain itu, Meta memperluas kebijakan risiko bunuh diri. Perusahaan bisa menghubungi layanan darurat berdasarkan isi obrolan dengan Meta AI. Aturan ini berlaku bagi pengguna dewasa maupun remaja. Jika percakapan menunjukkan risiko tinggi, Meta akan langsung mengambil tindakan untuk mencari bantuan medis atau polisi. Dulu Meta hanya melakukan hal ini jika pengguna mengunggah status atau foto di Facebook dan Instagram. Sekarang, kebijakan tersebut masuk ke ruang privat dalam obrolan dengan AI. Meta ingin memastikan bantuan datang lebih cepat bagi siapa saja yang sedang terpuruk.
Penulis: Tim Redaksi
Editor: Redaktur Perssilam Silampari News
(Perssilam Silampari News berbagai sumber)
Berita dan Artikel lainnya di :
Temukan Berita Terkini kami di WhatsApp Channel
Tags :
Reaksi :
Artikel Terkait
