•Pertumbuhan Emosional & Risiko Psikologis
Remaja dan anak-anak berada dalam fase perkembangan yang rentan, mereka sedang membentuk identitas, memiliki kecenderungan untuk mencari validasi luar, dan mudah terbawa emosi. Dalam laporan disebut bahwa hilangnya batasan yang jelas antara pengguna dan AI bisa menyebabkan delusi atau persepsi bahwa mereka berinteraksi dengan “teman” atau entitas hidup, bukan hanya sistem.
Ada kekhawatiran bahwa interaksi yang terlalu emosional atau percakapan yang terkesan personal dari AI bisa mengganggu keseimbangan psikologis, terutama jika AI memberikan respons yang tidak sesuai atau keliru.
•Tanggapan Google & Upaya Perbaikan
Pihak pengembang telah menyatakan bahwa mereka telah memasang kebijakan dan mekanisme perlindungan khusus untuk pengguna di bawah usia 18 tahun. Sebagai contohnya, ada proses internal untuk mencoba menemukan potensi bahaya (red-teaming), ada keterlibatan pakar luar, dan kerja melalui fitur kontrol orang tua seperti Family Link untuk anak-anak di bawah 13 tahun.
Baca Juga:Polaroid Gemini AI, Virtual Foto Bareng Idola yang Bikin Heboh TikTokSouza Kritik Banyaknya Penghentian Laga karena Cedera, Bali United Sangkal Tuduhan Mengulur Waktu
Google juga mengakui bahwa masih ada respons dari Gemini yang tidak sesuai harapan, dan mengatakan bahwa beberapa fitur yang diuji dalam laporan tidak selalu tersedia di versi khusus anak.
•Apa yang Masih Perlu Dibenahi
- Beberapa pihak menyebutkan bahwa filter atau label keamanan saja tidak cukup. Sistem keamanan yang efektif perlu.
- Desain yang mempertimbangkan berbagai usia & tahap perkembangan, bukan satu ukuran untuk semua.
- Pengawasan yang benar dari orang tua atau wali, termasuk penjelasan jelas bahwa AI bukan teman, dan bahwa ada batasan respons AI.
- Kontrol lebih ketat atas konten sensitif, serta opsi bagi pengguna atau orang tua untuk memblokir topik tertentu.
- Transparansi metodologi pengujian dan laporan independen mengenai bagaimana AI bereaksi terhadap berbagai permintaan, termasuk kasus negatif.
Kesimpulan
Google Gemini memiliki potensi luar biasa dalam membantu berbagai aktivitas pendidikan, hiburan, kreatifitas, namun ketika digunakan oleh anak-anak dan remaja, ada risiko yang tak bisa diabaikan.
Penilaian terbaru menyebut bahwa meskipun sudah ada upaya proteksi, pendekatan yang masih berbasis modifikasi dari versi dewasa, akses terhadap konten sensitif, dan potensi disorientasi psikologis, menjadi sinyal bahwa keamanan untuk pengguna muda harus diperkuat secara mendasar.