Risiko Fitur AI Google Search bagi Anak dan Remaja yang Perlu Diwaspadai Orang Tua
Memahami Ancaman AI di Gawai Anak: Mengapa Orang Tua Harus Lebih Waspada?
NGELMU - Perkembangan teknologi kecerdasan buatan (artificial intelligence/AI) yang kian masif kini mulai memicu kekhawatiran baru bagi para orang tua.
Sebuah riset terbaru mengungkapkan bahwa fitur AI yang tersemat pada mesin pencari Google berpotensi membawa dampak buruk bagi kesehatan mental anak-anak dan remaja.
Fitur AI Overview dan AI Mode dari Google dilaporkan beberapa kali gagal mengenali tanda-tanda darurat kesehatan mental, termasuk indikasi keinginan untuk bunuh diri.
Temuan mengejutkan ini dirilis oleh Youth AI Safety Institute dari Common Sense Media.
Temuan mengejutkan ini dirilis oleh Youth AI Safety Institute dari Common Sense Media.
Mereka melakukan uji coba terhadap sekitar 2.600 interaksi pada fitur AI Overview dan AI Mode sepanjang Mei hingga Juli 2026.
Menggunakan akun simulasi anak berusia 11 dan 15 tahun—lengkap dengan fitur SafeSearch serta kontrol orang tua via Google Family Link—para peneliti menemukan celah keamanan yang cukup mengkhawatirkan.
Berdasarkan laporan yang dilansir dari Mashable, pengujian ini berfokus pada kemampuan kecerdasan buatan Google dalam merespons berbagai topik sensitif yang kerap dihadapi generasi muda.
Celah Keamanan AI Google dalam Merespons Krisis Mental Remaja
Berdasarkan laporan yang dilansir dari Mashable, pengujian ini berfokus pada kemampuan kecerdasan buatan Google dalam merespons berbagai topik sensitif yang kerap dihadapi generasi muda.
Topik-topik tersebut meliputi kecenderungan bunuh diri, aksi melukai diri sendiri (self-harm), gangguan makan (eating disorder), psikosis, hingga isu eksploitasi seksual anak.
Hasilnya cukup mencengangkan. Sistem AI dinilai gagal memberikan perlindungan optimal kepada pengguna usia muda yang tengah berada dalam kondisi krisis emosional.
"Hasil pengujian kami menemukan AI Overview dan AI Mode gagal melindungi anak-anak yang sedang mengalami krisis, termasuk melewatkan tanda-tanda keinginan bunuh diri, memperkuat indikasi psikosis dan mania, memvalidasi gangguan makan, hingga merayakan penggunaan ganja," tulis tim peneliti dalam laporan resminya.
Salah satu poin krusial yang disorot adalah rendahnya sensitivitas AI terhadap kata kunci darurat. Dari 214 pertanyaan yang seharusnya memicu rekomendasi ke layanan bantuan krisis atau tenaga medis, AI Overview hanya memberikan respons yang tepat sekitar 58% saja.
Hasilnya cukup mencengangkan. Sistem AI dinilai gagal memberikan perlindungan optimal kepada pengguna usia muda yang tengah berada dalam kondisi krisis emosional.
"Hasil pengujian kami menemukan AI Overview dan AI Mode gagal melindungi anak-anak yang sedang mengalami krisis, termasuk melewatkan tanda-tanda keinginan bunuh diri, memperkuat indikasi psikosis dan mania, memvalidasi gangguan makan, hingga merayakan penggunaan ganja," tulis tim peneliti dalam laporan resminya.
Kegagalan Deteksi Kondisi Darurat
Salah satu poin krusial yang disorot adalah rendahnya sensitivitas AI terhadap kata kunci darurat. Dari 214 pertanyaan yang seharusnya memicu rekomendasi ke layanan bantuan krisis atau tenaga medis, AI Overview hanya memberikan respons yang tepat sekitar 58% saja.
Sementara itu, AI Mode mencatat performa yang sedikit lebih baik dengan tingkat keberhasilan 77%.
Meski demikian, angka tersebut masih berada jauh di bawah standar keamanan minimal sebesar 95% yang ditetapkan oleh para peneliti keselamatan digital.
Dalam sebuah simulasi kasus, ketika akun remaja menggunakan istilah slang atau bahasa gaul yang mengindikasikan niat mengakhiri hidup, AI Overview justru memberikan informasi administratif mengenai cara mengelola akun digital setelah seseorang meninggal dunia.
Meski demikian, angka tersebut masih berada jauh di bawah standar keamanan minimal sebesar 95% yang ditetapkan oleh para peneliti keselamatan digital.
Dalam sebuah simulasi kasus, ketika akun remaja menggunakan istilah slang atau bahasa gaul yang mengindikasikan niat mengakhiri hidup, AI Overview justru memberikan informasi administratif mengenai cara mengelola akun digital setelah seseorang meninggal dunia.
AI sama sekali tidak mengarahkan pengguna ke nomor darurat atau layanan konseling krisis.
Selain kendala pada penanganan isu kesehatan mental, riset ini juga menyoroti masalah konsistensi dan akurasi informasi yang disajikan oleh AI Google Search.
Jawaban yang Berubah-ubah: Saat diuji dengan lebih dari 275 pertanyaan seputar sejarah, AI Overview dan AI Mode menyajikan jawaban yang berbeda untuk pertanyaan yang persis sama pada 43% uji coba.
Masalah Akurasi Informasi dan Potensi Kecurangan Akademik
Selain kendala pada penanganan isu kesehatan mental, riset ini juga menyoroti masalah konsistensi dan akurasi informasi yang disajikan oleh AI Google Search.
Jawaban yang Berubah-ubah: Saat diuji dengan lebih dari 275 pertanyaan seputar sejarah, AI Overview dan AI Mode menyajikan jawaban yang berbeda untuk pertanyaan yang persis sama pada 43% uji coba.
Perbedaan ini mencakup kedalaman materi, tingkat akurasi data, hingga sudut pandang penulisan.
Pemicu Plagiarisme: Pada aspek akademis, AI Mode terbukti mampu menyelesaikan seluruh soal matematika dan membuat tugas esai dengan sempurna.
Pemicu Plagiarisme: Pada aspek akademis, AI Mode terbukti mampu menyelesaikan seluruh soal matematika dan membuat tugas esai dengan sempurna.
Hal ini memicu kekhawatiran baru di kalangan pendidik mengenai potensi meningkatnya kecurangan akademik atau plagiarisme di sekolah.
Melihat berbagai risiko tersebut, Common Sense Media merekomendasikan agar pihak sekolah dan keluarga diberikan opsi mutlak untuk menonaktifkan fitur AI Overview maupun AI Mode pada gawai yang digunakan anak-anak.
Melihat berbagai risiko tersebut, Common Sense Media merekomendasikan agar pihak sekolah dan keluarga diberikan opsi mutlak untuk menonaktifkan fitur AI Overview maupun AI Mode pada gawai yang digunakan anak-anak.
Siswa sekolah dasar juga disarankan untuk kembali mengandalkan basis data perpustakaan atau mesin pencari konvensional tanpa jawaban berbasis kecerdasan buatan.
Di sisi lain, raksasa teknologi Google menolak keras kesimpulan yang dipaparkan dalam penelitian tersebut.
Respons Google: Anggap Metodologi Riset Tidak Alami
Di sisi lain, raksasa teknologi Google menolak keras kesimpulan yang dipaparkan dalam penelitian tersebut.
Perwakilan Google menyatakan bahwa metodologi yang digunakan oleh peneliti tidak mencerminkan perilaku atau cara pengguna berinteraksi dengan Google Search di dunia nyata.
Google berargumen bahwa sebagian besar pertanyaan kueri yang diajukan dalam riset bersifat ambigu dan dibuat-buat (artifisial).
Google berargumen bahwa sebagian besar pertanyaan kueri yang diajukan dalam riset bersifat ambigu dan dibuat-buat (artifisial).
Oleh karena itu, data tersebut dinilai tidak valid untuk mengukur tingkat keamanan maupun kualitas fitur AI Search mereka.
Google juga mengklaim telah melakukan pengujian internal menggunakan kueri yang sama dan mendapatkan hasil jawaban dengan kualitas yang jauh lebih aman dan baik.
Perusahaan menekankan bahwa AI Search sejatinya dirancang untuk membantu anak-anak dan remaja dalam proses belajar, mengeksplorasi wawasan baru, serta memahami dunia dengan lebih luas.
Perusahaan menekankan bahwa AI Search sejatinya dirancang untuk membantu anak-anak dan remaja dalam proses belajar, mengeksplorasi wawasan baru, serta memahami dunia dengan lebih luas.
Mereka juga mengingatkan para orang tua untuk memaksimalkan fitur parental control guna membatasi akses pencarian pada perangkat Android maupun peramban Chrome.
Namun, tim peneliti Common Sense Media menegaskan kembali bahwa selama fitur AI Overview dan AI Mode ini tetap aktif secara otomatis untuk pengguna di bawah umur, beban pengawasan yang terlalu berat akan terus menumpuk di pundak orang tua dan guru.
Namun, tim peneliti Common Sense Media menegaskan kembali bahwa selama fitur AI Overview dan AI Mode ini tetap aktif secara otomatis untuk pengguna di bawah umur, beban pengawasan yang terlalu berat akan terus menumpuk di pundak orang tua dan guru.
Terlebih lagi, data tahun 2026 menunjukkan bahwa hampir tiga perempat anak dan remaja kini sudah terbiasa mengandalkan jawaban berbasis AI saat berselancar di Google Search.
This article was released under the title: Orang Tua Wajib Tahu! Ini Risiko Pakai AI Google Buat Anak dan Remaja
#FAQ:
#FAQ:
Apa risiko utama penggunaan AI Google Search pada anak dan remaja menurut riset terbaru?
Risiko utamanya adalah kegagalan sistem AI dalam mengenali tanda-tanda krisis kesehatan mental, seperti indikasi bunuh diri atau gangguan makan, dan terkadang justru memberikan respons atau validasi yang tidak tepat bagi anak.
Mengapa fitur AI Overview dianggap belum aman untuk kondisi darurat?
Berdasarkan riset, AI Overview hanya memberikan rujukan ke layanan medis yang tepat sebesar 58% dari total kueri darurat. Angka ini jauh di bawah standar keselamatan yang diharapkan, yakni 95%.
Bagaimana dampak fitur AI Mode terhadap pendidikan anak di sekolah?
AI Mode mampu menyelesaikan soal matematika dan tugas esai secara instan. Kemampuan ini dikhawatirkan dapat memicu maraknya kecurangan akademik dan menurunkan minat belajar mandiri pada siswa.
Apa tanggapan Google mengenai hasil riset Common Sense Media ini?
Google membantah temuan tersebut dan menilai metodologi risetnya artifisial serta tidak mencerminkan interaksi nyata pengguna. Google menyatakan fitur AI mereka aman dan dirancang untuk membantu proses belajar anak.
Bagaimana cara orang tua membatasi akses AI Google pada gawai anak?
Orang tua dapat memanfaatkan fitur kontrol orang tua (parental control) melalui aplikasi seperti Google Family Link untuk membatasi ruang lingkup pencarian dan akses browser pada perangkat anak.
Tag Artikel:
AI Google Search, AI Overview, AI Mode, Kesehatan Mental Remaja, Parenting Digital, Keamanan Anak Digital, Common Sense Media, Google Family Link, Teknologi Anak, Risiko Kecerdasan Buatan, Dampak AI Google, Kontrol Orang Tua, Berita Teknologi, Jurnalistik Digital