Bahaya AI di Kelas: Aktivis Desak Sekolah Putus Hubungan dengan Google!

Bahaya AI di Kelas: Aktivis Desak Sekolah Putus Hubungan dengan Google!

Aktivis keselamatan anak mendesak sekolah-sekolah untuk menghentikan penggunaan teknologi Google di kelas. Dalam laporan terbaru dari Common Sense Media, diketahui bahwa pencarian modern berbasis AI dari Google menimbulkan risiko yang tak bisa diterima bagi para pelajar muda. Penulis laporan mengungkapkan bahwa mesin pencari AI yang generatif ini terlalu berbahaya sehingga siswa sebaiknya tidak menggunakannya sama sekali sampai Google dapat menonaktifkan fitur AI.

Apa yang Menyebabkan Kekhawatiran?

Advokasi keselamatan anak selama bertahun-tahun menyoroti bahaya teknologi kelas, dan dengan makin terintegrasinya AI generatif dalam alat pendidikan, seruan ini semakin terdengar keras. Meskipun dampak negatif dari produk seperti ChatGPT mudah terlihat, dampak sederhana dari pencarian Google terhadap siswa sering kali luput dari perhatian.

Google memperkenalkan AI Mode untuk Search pada tahun lalu, yang langsung tersedia untuk semua pengguna, termasuk akun akademis. Penelitian menunjukkan bahwa AI Mode ini menggunakan model Gemini, yang dalam produk Google lainnya membatasi akses berdasar usia. Menurut Robbie Torney, direktur senior program AI di Common Sense Media, Google merupakan pemain dominan dalam pencarian dan pendidikan. “Google menjadi penyokong besar gerakan perangkat satu per siswa dengan memperkenalkan perangkat pribadi seperti Chromebook ke sekolah,” ujarnya.

Tantangan dalam Proses Pembelajaran

Penelitian menunjukkan bahwa AI Overview dari Google sering kali mengulangi informasi yang salah, yang dapat membingungkan mahasiswa. Selain itu, analisis oleh Common Sense Media menunjukkan bahwa alat AI Google tampaknya menyelesaikan tugas pekerjaan rumah untuk para siswa. Kombinasi desain yang menyesatkan dan sifat mudah setuju dari chatbot AI Mode berpotensi membuat siswa tidak sadar bahwa mereka sedang melakukan kecurangan. Hal ini turut menambah kesulitan dalam proses pembelajaran.

Amanda Bickerstaff, wakil direktur AI untuk Pendidikan, mengatakan bahwa AI Mode merupakan jalur masuk bagi siswa untuk mengakses pengalaman generatif AI yang tidak aman. “Tidak ada alasan bagi anak berusia 10, 13, atau bahkan 15 tahun untuk melihat AI Overview atau menggunakan AI Mode,” tegasnya.

Risiko Mental dan Keamanan bagi Anak

Laporan dari Common Sense Media juga menunjukkan bahwa AI Overview dan AI Mode Search dapat membahayakan kesehatan mental siswa. Sayangnya, Google tidak memberikan opsi untuk menonaktifkan hanya fitur AI sambil tetap menyediakan akses pencarian. Hal ini membuat siswa tetap terpapar AI generatif di sekolah meskipun mereka melakukan pekerjaan sekolah.

Dalam tanggapannya, Google menyatakan bahwa pengujian oleh Common Sense Media terlalu terbatas dan tidak efektif untuk mengukur keamanan produk. Namun, Torney menegaskan bahwa pengalaman Search berbasis AI adalah sama untuk semua pengguna.

Akankah Ini Menjadi Masalah Hukum bagi Sekolah?

Melihat keadaan ini, beberapa sumber menyatakan bahwa mungkin sudah saatnya sekolah untuk memutuskan hubungan dengan Google. David Monahan, direktur kampanye untuk organisasi keselamatan anak Fairplay for Kids, menyatakan, “AI Overview dan AI Mode Google merusak pendidikan anak-anak, memberikan informasi yang berbahaya, dan membahayakan nyawa mereka.” Menurutnya, jika Google tidak mau menonaktifkan fitur AI untuk siswa, sekolah sebaiknya menghentikan penggunaan produk Google sama sekali.

Anya Meksin, wakil direktur Schools Beyond Screens, menilai laporan ini sebagai panggilan bangun bagi distrik sekolah. Diharapkan dengan adanya dorongan kuat untuk mengurangi penggunaan teknologi di kelas, sekolah bisa melindungi anak-anak dari potensi risiko yang ditimbulkan oleh AI generatif, termasuk produk Google lainnya.

About The Author

Teknonesia Team

See author's posts