Character.AI Membatasi Obrolan Terbuka untuk Pengguna di Bawah 18 Tahun dan Memperkenalkan Langkah-Langkah Keamanan

Platform chatbot bertenaga AI, Karakter.AI mengumumkan bahwa pengguna di bawah usia 18 tahun tidak akan dapat lagi terlibat dalam percakapan terbuka dengan chatbot AI-nya, menyusul kekhawatiran dari anggota parlemen dan keluarga mengenai potensi risiko platform tersebut terhadap remaja.

Perubahan ini dijadwalkan berlaku efektif pada 25 November. Sementara itu, platform ini berencana untuk memperkenalkan pengalaman yang dimodifikasi bagi pengguna di bawah 18 tahun agar mereka dapat terus berkreasi, seperti memproduksi video, cerita, dan streaming interaktif bersama Karakter. Selama masa transisi ini, sesi obrolan untuk pengguna di bawah 18 tahun akan dibatasi hingga dua jam per hari, dengan pengurangan waktu lebih lanjut yang diantisipasi dalam beberapa minggu menjelang penerapan penuh.

Selain itu, Character.AI akan menerapkan langkah-langkah verifikasi usia baru untuk memastikan pengguna mendapatkan fitur-fitur yang sesuai dengan usia mereka. Perusahaan telah mengembangkan sistem jaminan usia internal dan akan mengintegrasikannya dengan perangkat pihak ketiga, termasuk Persona, untuk meningkatkan akurasi dan keandalan.

Platform ini juga mengumumkan pembentukan dan pendanaan AI Safety Lab, sebuah organisasi nirlaba independen yang didedikasikan untuk memajukan penyelarasan keamanan dalam hiburan AI. Lab ini akan berfokus pada pengembangan pendekatan keamanan yang inovatif, berkolaborasi dengan pakar eksternal, dan berbagi hasil penelitian. Character.AI bermaksud agar lab ini memberikan perhatian yang sama pada keamanan hiburan AI seperti yang diterapkan pada aplikasi AI lainnya, dan berencana untuk melibatkan perusahaan teknologi, akademisi, peneliti, dan pembuat kebijakan dalam inisiatif ini.

Character.AI Memperbarui Platform untuk Anak Usia di Bawah 18 Tahun untuk Meningkatkan Keamanan Remaja di Tengah Kekhawatiran Regulasi

Character.AI telah mengumumkan perubahan pada platformnya untuk pengguna di bawah usia 18 tahun sebagai tanggapan atas meningkatnya kekhawatiran tentang interaksi AI dengan remaja. Laporan dan pertanyaan terbaru dari regulator telah menyoroti potensi risiko yang terkait dengan percakapan AI terbuka, bahkan ketika kontrol konten diterapkan. Setelah meninjau masukan dari regulator, spesialis keamanan, dan orang tua, perusahaan memutuskan bahwa modifikasi pengalaman pengguna di bawah usia 18 tahun diperlukan untuk melindungi pengguna muda dengan lebih baik.

Penyesuaian ini merupakan langkah signifikan bagi platform dan umumnya lebih berhati-hati dibandingkan tindakan yang diambil oleh layanan serupa. Tujuannya adalah memprioritaskan keselamatan pengguna remaja sekaligus memberikan kesempatan untuk berkreasi, bereksplorasi, dan berinteraksi. Character.AI bermaksud untuk terus bekerja sama dengan para ahli keselamatan, badan regulator, dan pemangku kepentingan lainnya untuk memastikan perlindungan pengguna tetap menjadi prioritas seiring platform mengembangkan fitur-fitur baru yang mendorong ekspresi kreatif dan interaksi komunitas.

Character.AI adalah platform AI percakapan yang memungkinkan pengguna berinteraksi dengan dan membuat karakter berbasis AI, atau bot persona, yang didukung oleh model bahasa yang besar.