RADARCIREBON.TV- Teknologi kecerdasan buatan seperti Google Gemini menawarkan berbagai fitur canggih dari kemampuan memahami teks dan gambar, hingga dialog interaktif audio dan video.
Namun menurut laporan terbaru dari organisasi yang fokus ke keamanan teknologi dan anak, Gemini ternyata menyimpan potensi risiko tinggi jika digunakan oleh kelompok usia muda, terutama anak di bawah 13 tahun dan remaja.
Meski ada klaim bahwa ada filter dan pengamanan khusus untuk pengguna muda, tanpa desain sistem yang benar dari awal, risiko tetap nyata.
Baca Juga:Polaroid Gemini AI, Virtual Foto Bareng Idola yang Bikin Heboh TikTokSouza Kritik Banyaknya Penghentian Laga karena Cedera, Bali United Sangkal Tuduhan Mengulur Waktu
Penilaian Risiko dan Label “High Risk”
Sebuah lembaga independen menilai bahwa versi Gemini untuk anak-anak (kategori “Under 13”) dan remaja (“Teen Experience”) bukanlah produk yang dirancang khusus untuk kelompok itu, melainkan versi dewasa yang diberi lapisan keamanan tambahan.
Sistem yang secara prinsip sama, hanya ditambahkan filter, dianggap tidak cukup. Penilaian keseluruhan menempatkan Gemini dalam kategori “High Risk” untuk anak dan remaja, sejajar dengan beberapa layanan AI yang diduga punya potensi bahaya tinggi.
Kekurangan Konstruksi Aman Sejak Awal
Salah satu kritik utama adalah bahwa platform AI yang ramah anak seharusnya dirancang dengan mempertimbangkan perkembangan psikologis dan emosional pengguna muda sejak tahap awal. Bukan sekadar modifikasi dari sistem dewasa. Anak dan remaja memiliki kebutuhan berbeda untuk keamanan, bimbingan, dan pengawasan.
Jika sistem hanya sekadar diberi filter setelah jadi produk dewasa, banyak aspek penting bisa terlewat: misalnya pengaturan konteks sensitif, bagaimana AI menangani permintaan yang bersifat pribadi, atau bagaimana menjelaskan sifat AI kepada pengguna muda agar mereka tidak menganggap AI seperti teman nyata.
•Konten Tidak Pantas & Informasi Sensitif
Evaluasi menunjukkan bahwa meskipun ada peringatan bahwa Gemini “bukan teman” dan bukan pengganti interaksi manusia, anak-anak tetap bisa mengakses konten yang tidak sesuai usia. Beberapa jenis konten sensitif disebut masih bisa muncul, termasuk informasi seputar alkohol, narkoba, seks, dan topik kesehatan mental yang kompleks. Untuk remaja, saran kesehatan mental yang tidak berdasar bisa menjadi pemicu masalah jika tidak dikontrol dengan hati-hati.