Fitur Kontrol Orang Tua di ChatGPT Diperkenalkan untuk Melindungi Pengguna Remaja
OpenAI, pengembang dari ChatGPT, telah meluncurkan fitur baru yang dikenal sebagai kontrol orang tua. Fitur ini dirancang khusus untuk membantu para orang tua mengelola penggunaan aplikasi oleh anak-anak mereka, terutama remaja. Langkah ini diambil setelah adanya laporan bahwa seorang remaja asal California meninggal bunuh diri setelah berinteraksi dengan platform AI tersebut.
Fitur kontrol orang tua ini memberikan beberapa opsi bagi orang tua dalam mengatur penggunaan ChatGPT. Mereka dapat menetapkan jam penggunaan, menonaktifkan fitur tertentu seperti mode suara atau pembuatan gambar, serta memilih apakah chatbot bisa menyimpan percakapan sebelumnya. Selain itu, orang tua juga bisa mengaktifkan mode terbatas yang membatasi akses ke konten sensitif seperti topik diet, seks, atau ujaran kebencian.
Selain itu, fitur ini dilengkapi dengan sistem deteksi dini. Jika ChatGPT mendeteksi tanda-tanda bahaya, seperti potensi tekanan mental atau perilaku berisiko pada pengguna, kasus tersebut akan ditinjau oleh manusia sebelum memutuskan apakah perlu mengirim peringatan darurat kepada orang tua melalui email, pesan singkat, atau langsung dari aplikasi.
Lauren Jonas, Kepala Kesejahteraan Remaja OpenAI, menyampaikan bahwa pihaknya sudah lama merasa perlu menyediakan fitur ini. “Kami bekerja secepat mungkin untuk membangun alat-alat seperti kontrol orang tua agar dapat membantu mencegah situasi berbahaya,” katanya.
Dalam pengumuman resmi, OpenAI juga menyebut bahwa fitur kontrol orang tua kini dilengkapi dengan halaman khusus sumber daya bagi orang tua. Hal ini bertujuan untuk membantu keluarga dalam mengarahkan penggunaan ChatGPT di rumah. Orang tua dapat menghubungkan akun mereka dengan akun remaja dan menyesuaikan pengaturan demi pengalaman yang lebih aman dan sesuai usia.
Fitur ini juga merupakan bagian dari upaya jangka panjang OpenAI dalam membangun sistem prediksi usia. Sistem ini akan memungkinkan ChatGPT secara otomatis menerapkan aturan ramah remaja pada pengguna di bawah 18 tahun.
Perusahaan bekerja sama dengan para ahli dan organisasi advokasi seperti Common Sense Media, serta jaksa agung dari negara bagian California dan Delaware dalam merancang pendekatan ini. Robbie Torney, Senior Director AI Programs di Common Sense Media, mengatakan bahwa kontrol orang tua ini adalah langkah awal yang baik untuk membantu orang tua mengelola penggunaan ChatGPT oleh remaja mereka. Namun, ia menekankan bahwa fitur ini hanyalah salah satu bagian dari upaya menjaga keamanan remaja di dunia maya.
Torney menambahkan bahwa fitur ini akan bekerja lebih baik jika dipadukan dengan percakapan yang berkelanjutan tentang penggunaan AI yang bertanggung jawab, aturan keluarga yang jelas tentang teknologi, serta keterlibatan aktif orang tua dalam memahami apa yang dilakukan anak mereka secara online.
Langkah OpenAI ini diambil setelah gugatan yang diajukan oleh keluarga Adam Raine, seorang siswa sekolah menengah di California yang meninggal gantung diri pada April lalu. Gugatan yang diajukan pada Agustus menuding bahwa ChatGPT telah mengisolasi Raine dari keluarganya dan bahkan membantu menyusun rencana kematiannya. Kasus ini menambah daftar panjang laporan tentang pengguna chatbot yang terjebak dalam interaksi berisiko tinggi.
Sejak diluncurkan pada akhir 2022, ChatGPT telah mengumpulkan lebih dari 700 juta pengguna di seluruh dunia. Popularitas ini juga meningkatkan tekanan publik dan regulator agar perusahaan asal San Francisco tersebut memperketat pengawasan penggunaan AI, terutama bagi pengguna di bawah 18 tahun.
Komentar
Tuliskan Komentar Anda!