SURABAYA ( LENTERA ) - OpenAI resmi merilis fitur baru di ChatGPT yang dapat memperkirakan usia penggunanya. Fitur ini dibuat sebagai langkah perlindungan bagi anak-anak dan remaja, di tengah meningkatnya kekhawatiran terhadap dampak kecerdasan buatan atau artificial intelligence (AI) terhadap generasi muda. Melalui keterangan resminya, OpenAI menyebutkan bahwa fitur “age prediction” bertujuan untuk membantu mengidentifikasi pengguna yang masih di bawah umur, sekaligus membatasi konten yang mereka akses agar lebih aman dan sesuai usia.
Dalam beberapa waktu terakhir, OpenAI sering menjadi sorotan karena penggunaan ChatGPT oleh anak-anak dan remaja. Bahkan, sejumlah laporan mengaitkan kasus bunuh diri remaja dengan interaksi mereka bersama chatbot tersebut. Selain itu, seperti penyedia AI lainnya, OpenAI juga mendapat kritik karena ChatGPT sempat memungkinkan pembahasan bertema seksual dengan pengguna muda. Pada April tahun lalu, perusahaan ini harus memperbaiki celah yang membuat ChatGPT bisa menghasilkan konten erotis untuk pengguna di bawah 18 tahun.
OpenAI menegaskan bahwa perlindungan terhadap pengguna di bawah umur sebenarnya sudah lama menjadi fokus mereka. Kehadiran fitur prediksi usia ini disebut sebagai upaya untuk memperkuat sistem pengamanan yang sudah ada sebelumnya. Dikutip dari TechCrunch, OpenAI menjelaskan bahwa fitur ini bekerja dengan memanfaatkan algoritma AI untuk menganalisis berbagai sinyal dari perilaku dan data akun pengguna.
Sinyal yang dianalisis meliputi usia yang diinput oleh pengguna, lamanya akun dibuat, serta pola waktu akun tersebut aktif. Jika sistem memprediksi bahwa sebuah akun digunakan oleh pengguna di bawah usia 18 tahun, maka filter konten akan otomatis diterapkan. Filter ini berfungsi untuk menyaring topik sensitif, seperti seks, kekerasan, dan pembahasan lain yang dianggap tidak sesuai untuk anak dan remaja.
Meski begitu, OpenAI juga menyediakan skema pemulihan apabila terjadi kesalahan. Jika pengguna dewasa salah terdeteksi sebagai di bawah umur, mereka dapat mengajukan pemulihan status akun dengan melakukan verifikasi identitas. Proses ini dilakukan dengan mengirimkan swafoto atau selfie melalui mitra verifikasi identitas OpenAI, yaitu Persona. (Inna – UINSA berpartisipasi dalam tulisan)
