OpenAI sedang menyiapkan cara baru agar ChatGPT tidak hanya berhenti di layar ketika percakapan berubah mengarah ke krisis. Fitur bernama Trusted Contact dirancang untuk memberi tahu orang terdekat pengguna saat sistem mendeteksi obrolan yang berkaitan dengan kemungkinan menyakiti diri sendiri.
Langkah ini langsung memunculkan dua sisi pandangan. Di satu sisi, fitur tersebut bisa menjadi jembatan menuju bantuan nyata ketika pengguna sedang berada dalam kondisi rentan, tetapi di sisi lain, kehadiran chatbot di wilayah ini juga memunculkan pertanyaan tentang batas campur tangan dan privasi.
Fitur opsional untuk pengguna dewasa
Trusted Contact tidak diaktifkan otomatis untuk semua orang. OpenAI menjelaskannya sebagai fitur opsional yang hanya dapat dipakai pengguna dewasa melalui pengaturan ChatGPT.
Pengguna yang ingin mengaktifkannya dapat menambahkan satu kontak dewasa tepercaya. Usia kontak itu mengikuti ketentuan wilayah pengguna, dengan batas minimal 18 tahun secara global atau 19 tahun di Korea Selatan.
Setelah kontak ditambahkan, orang tersebut akan menerima undangan. Kendali tetap berada di tangan kontak yang dipilih karena mereka bisa menerima atau menolak permintaan itu.
Bekerja di latar belakang saat percakapan berlangsung
Jika Trusted Contact sudah aktif, pengguna tidak perlu menekan tombol tambahan setiap kali memakai ChatGPT. Sistem akan berjalan di latar belakang selama percakapan berlangsung.
Saat ChatGPT mendeteksi pembahasan yang mungkin berkaitan dengan self-harm, pengguna akan diberi tahu lebih dulu bahwa kontak tepercaya mereka bisa saja menerima notifikasi. Peringatan ini muncul sebelum proses lanjut ke tahap berikutnya.
OpenAI tidak menyerahkan keputusan sepenuhnya pada sistem otomatis. Perusahaan juga menyiapkan tim peninjau manusia yang dilatih khusus untuk menilai percakapan yang memunculkan kekhawatiran keselamatan.
Peran peninjau manusia dalam keputusan akhir
Tim peninjau tersebut bertugas menentukan apakah isi obrolan benar-benar menunjukkan masalah keamanan. Tim yang sama juga mengambil keputusan akhir mengenai perlu atau tidaknya kontak tepercaya pengguna dihubungi.
Pendekatan ini menunjukkan bahwa OpenAI ingin menggabungkan deteksi otomatis dengan penilaian manusia. Dalam percakapan sensitif, keputusan seperti ini diperlakukan sebagai isu keselamatan, bukan sekadar respons teknis biasa.
Kontak tepercaya tidak menerima isi chat
OpenAI menegaskan bahwa fitur ini tidak membuka seluruh isi percakapan kepada orang lain. Kontak tepercaya tidak akan menerima transkrip obrolan pengguna.
Sebagai gantinya, mereka hanya menerima notifikasi yang dirancang untuk mendorong pengecekan kondisi pengguna. Mekanisme ini disusun agar privasi tetap dijaga sambil tetap memberi ruang bagi dukungan dari orang terdekat.
Pembatasan itu menjadi penting karena percakapan dengan chatbot kerap memuat hal-hal pribadi. Dengan tidak mengirim salinan chat, OpenAI berusaha menekan risiko pelanggaran privasi saat fitur keselamatan dipakai.
Muncul di tengah sorotan pada penggunaan ChatGPT
Kehadiran Trusted Contact juga tidak lepas dari perhatian yang lebih luas terhadap penggunaan chatbot AI. ChatGPT menjadi salah satu yang paling populer, dan banyak orang memakainya untuk membahas berbagai topik, termasuk yang sangat sensitif.
Dalam beberapa kasus, ChatGPT juga disebut terlibat dalam situasi self-harm. OpenAI bahkan telah menghadapi gugatan hukum terkait kejadian semacam itu, sehingga fitur baru ini dapat dibaca sebagai upaya memperkuat perlindungan bagi pengguna yang sedang berada dalam kondisi emosional rentan.
Sebelum fitur ini muncul, ChatGPT sudah memiliki perlindungan lain untuk percakapan sensitif. Sistem mendorong pengguna menghubungi layanan bantuan atau hotline, serta menyarankan agar pengguna beristirahat dari ChatGPT itu sendiri.
Trusted Contact menambah lapisan baru di atas pengaman yang sudah ada. Fokusnya bukan sekadar memberi jawaban di dalam aplikasi, tetapi membuka kemungkinan hadirnya bantuan manusia di luar platform saat tanda bahaya terdeteksi.
Source: www.androidauthority.com
