Mengapa Perusahaan Teknologi Harus Berhenti Memaksa Pengguna untuk ‘Opt Out’ dari Fitur AI?

Mengapa Perusahaan Teknologi Harus Berhenti Memaksa Pengguna untuk ‘Opt Out’ dari Fitur AI?

Baru-baru ini, Meta mengeluarkan fitur baru yang memungkinkan pengguna aplikasi AI mereka untuk menandai akun Instagram publik dan menghasilkan gambar menggunakan wajah mereka. Keputusan Meta untuk mengaktifkan fitur ini secara otomatis, sehingga pengguna Instagram harus secara aktif memilih untuk tidak berpartisipasi, menuai banyak kritik.

Beberapa kreator Instagram memposting video viral yang menjelaskan cara untuk menonaktifkan fitur tersebut dan menyampaikan ketidakpuasan mereka. Setelah tiga hari ketidakpuasan publik, Meta akhirnya mengakui dalam sebuah pernyataan bahwa “fitur ini tidak sesuai harapan” dan memutuskan untuk mencabut penandaan Instagram untuk chatbot AI mereka.

Salah satu kreator, Sam Sooin Yang, mengungkapkan kelelahan terhadap praktik perusahaan yang mendorong penggunaan AI meskipun banyak pengguna tidak menginginkannya. “Seharusnya mereka memberikan pilihan untuk ikut serta, bukan malah memaksa orang untuk keluar dari fitur ini,” ujarnya dalam video Instagram yang telah ditonton lebih dari 3 juta kali.

Respon publik terhadap pengaturan ‘opt-out’ dari fitur AI di Instagram menunjukkan ketidakpuasan yang cepat. “Itu adalah reaksi yang jelas dan cepat,” ungkap Thorin Klosowski, aktivis senior privasi dari Electronic Frontier Foundation. “Luar biasa melihat bagaimana ini dapat diubah dalam waktu singkat.” Dalam konteks ini, tiga hari dari pengaktifan hingga pencabutan fitur AI bisa jadi menjadi catatan tersendiri.

Pada kesempatan lain, seorang pengguna juga mengalami hal serupa saat menonaktifkan fitur “Ask Gemini” di Google Docs. Fitur ini muncul tiba-tiba dan mengajak pengguna untuk memanfaatkan chatbot Google sebagai bagian dari alur kerja penulisan mereka. Banyak pengguna kini rutin mencari cara untuk menonaktifkan fitur-fitur tersebut di berbagai platform, termasuk Dropbox dan LinkedIn.

Ben Winters, direktur AI dan privasi di Consumer Federation of America, menekankan bahwa perilaku semacam ini bukanlah hal baru bagi perusahaan seperti Meta. “Mereka adalah pengawal status quo opt-out yang kita hadapi sekarang ini, tanpa adanya regulasi privasi yang memadai di Amerika Serikat,” jelas Winters. Contoh lain yang perlu diwaspadai adalah pengaturan “Enhanced Browsing” di Facebook yang melacak situs web yang dikunjungi pengguna dalam aplikasi.

Perwakilan Meta, Daniel Roberts, menjelaskan, “Kami telah membangun berbagai pengaturan dan kontrol untuk membantu orang membuat pilihan privasi yang tepat bagi mereka dan membentuk pengalaman mereka di platform kami.” Namun, bagaimana pilihan tersebut bisa diambil jika pengaturan privasi tidak jelas?

Woodrow Hartzog, profesor di Universitas Boston, mengingatkan bahwa keputusan untuk mengaktifkan fitur baru ini memiliki konsekuensi nyata. “Orang umumnya akan tetap dengan pilihan default yang ada,” imbuhnya. Jika pilihan default adalah terdaftar, kemungkinan besar pengguna akan tetap terdaftar.

Hartzog mencontohkan regulasi privasi Uni Eropa, General Data Protection Regulation (GDPR), yang memberikan perlindungan lebih baik bagi pengguna. “Ide dasarnya adalah bahwa sistem harus dirancang untuk mengumpulkan hanya informasi yang diperlukan,” ujarnya. Jika satu opsi lebih melindungi privasi daripada yang lain, opsi tersebut harus dipilih secara otomatis.

Pakar privasi menyatakan bahwa adanya peraturan yang lebih terpadu akan sangat membantu konsumen yang sering kali merasa kewalahan dengan banyaknya pengaturan terkait privasi yang secara otomatis mengikutsertakan mereka. “Ini adalah resep sempurna untuk intervensi pemerintah yang diperlukan,” tambah Winters. Meskipun usaha di tingkat nasional sebelumnya gagal, harapan kini muncul dengan meningkatnya kesadaran publik mengenai masalah privasi data.

Ketika perusahaan memilih untuk mengikutsertakan pengguna ke dalam fitur AI tertentu, mereka membuat keputusan yang berdampak pada kehidupan nyata. “Teknologi sering kali disalahartikan sebagai alat yang dapat digunakan untuk kebaikan atau keburukan. Namun, cara teknologi dirancang dapat memengaruhi realitas tertentu dengan lebih atau kurang mungkin,” jelas Hartzog.

Jika sebuah perusahaan secara otomatis mengikutsertakan jutaan penggunanya ke dalam alat deepfake, realitas yang dipenuhi deepfake menjadi semakin mungkin terjadi. Dan itu adalah situasi yang benar-benar ingin dihindari oleh banyak orang.

About The Author

Teknonesia Team

See author's posts