OpenAI akhirnya merilis fitur baru di ChatGPT yang bisa memperkirakan usia pengguna secara otomatis. Fitur ini bukan sekadar tambahan biasa, tujuannya cukup jelas: memberi lapisan perlindungan ekstra, terutama untuk anak-anak dan remaja, di tengah makin banyaknya kekhawatiran soal dampak AI ke generasi muda.
Dalam keterangan resminya, OpenAI menyebut teknologi ini dirancang untuk mengenali apakah pengguna masih di bawah umur. Kalau terdeteksi, sistem akan menyesuaikan cara ChatGPT merespons, mulai dari membatasi konten tertentu sampai memastikan percakapan tetap sesuai dengan usia mereka.
Belakangan ini, isu keamanan anak memang jadi sorotan utama. OpenAI sendiri beberapa kali mendapat perhatian publik setelah muncul laporan kasus-kasus yang melibatkan remaja dan interaksi mereka dengan chatbot AI. Situasi ini yang tampaknya mendorong perusahaan untuk bergerak lebih serius dalam hal perlindungan pengguna muda.
Selain itu, OpenAI juga pernah menuai kritik karena celah sistem yang memungkinkan pembahasan bertema seksual diakses oleh pengguna muda. Pada April tahun sebelumnya, OpenAI mengakui adanya bug yang membuat ChatGPT dapat menghasilkan konten erotis bagi pengguna di bawah usia 18 tahun, sebelum akhirnya diperbaiki.
OpenAI menegaskan bahwa perlindungan terhadap pengguna anak dan remaja bukanlah kebijakan baru. Fitur prediksi usia disebut sebagai penguatan dari sistem keamanan yang sebelumnya telah diterapkan di dalam platform ChatGPT.
Mengutip laporan TechCrunch, fitur ini bekerja dengan memanfaatkan algoritma kecerdasan buatan yang menganalisis berbagai sinyal akun dan perilaku pengguna. Sinyal tersebut meliputi usia yang diinput, usia akun, hingga pola waktu aktivitas penggunaan.
Apabila sistem mendeteksi akun kemungkinan dimiliki oleh pengguna di bawah 18 tahun, maka filter konten akan aktif secara otomatis. Filter ini membatasi topik sensitif seperti seksualitas, kekerasan, dan pembahasan lain yang dianggap tidak sesuai untuk anak dan remaja.
Meski demikian, OpenAI juga menyediakan mekanisme koreksi bagi pengguna dewasa yang keliru teridentifikasi sebagai anak di bawah umur. Pengguna dapat memulihkan akses penuh dengan melakukan verifikasi identitas melalui layanan pihak ketiga, yakni Persona, menggunakan swafoto sebagai bukti usia.
Komentar