Apakah Kecerdasan Buatan Akan Membantu Membunuh Pasangan Anda?

Apakah Kecerdasan Buatan Akan Membantu Membunuh Pasangan Anda?

Sebuah pertanyaan liar: Apakah kecerdasan buatan (AI) seharusnya dilatih begitu baik hingga mampu membantu suami (atau istri) merencanakan pembunuhan sempurna terhadap pasangan mereka?

Pertanyaan itu sudah pasti menjadi topik hangat di kalangan berbagai perspektif yang ada di Amerika, salah satunya datang dari pendiri Comma AI dan mantan peretas, George Hotz, yang membagikannya dalam sebuah unggahan baru-baru ini.

Unggahan Hotz menjadi respons terhadap sejumlah rencana besar terkait penyesuaian AI, termasuk dokumen kebijakan terbaru berjudul AI 2040: Plan A dari AI Futures Project. Dokumen ini membayangkan dunia di mana para peneliti secara kolektif memilih untuk memperlambat pengembangan AI selama 14 tahun demi kebaikan umat manusia. Namun, tidak semua pembaca sepakat dengan premis atau kesimpulan tersebut.

Hotz menolak seluruh gagasan bahwa kemajuan AI harus dikelola demi kepentingan bersama. Dalam pandangannya, skenario di mana AI dengan cepat mendapatkan kemampuan superhuman tidak masuk akal. Hotz berargumen bahwa pendekatan terbaik untuk penyesuaian dan keamanan AI adalah dengan fokus pada model AI yang dikendalikan secara lokal, yang selaras dengan kepentingan pengguna mereka.

Ide ini sangat menarik, mengingat sebagian besar teknologi AI saat ini dibangun di atas layanan yang dikelola secara terpusat, seperti Claude dan ChatGPT. Ada alasan terkait infrastruktur mengapa layanan AI dikembangkan dengan cara ini: Biaya untuk menangani model-model besar yang canggih sangat tinggi, dan kebanyakan orang tidak menggunakan teknologi ini cukup intensif untuk membenarkan kehadiran AI yang benar-benar pribadi. Namun, faktor-faktor tersebut menjadi kurang signifikan seiring berkembangnya teknologi.

Hotz, yang dikenal sebagai provokator, tidak berhenti di situ. Ia membandingkan AI yang selaras dengan pengguna seperti senjata, yang tidak akan mengeluh jika digunakan untuk membunuh, misalnya ibu tiri. Ia menyatakan bahwa AI yang benar-benar selaras dapat memesan peralatan laboratorium narkoba melalui layanan belanja online jika itu yang diinginkan pengguna. Hotz bahkan mengklaim bahwa ia akan berjuang mati-matian untuk mempertahankan prinsip ini, meskipun sulit untuk membayangkan bagaimana hal itu bisa terjadi.

“Kita hidup di dunia dengan kebebasan atau tidak,” tulis Hotz. Jika kedua pilihan itu ada, tentu dunia dengan kebebasan terdengar lebih menarik! Namun, ada aspek lain yang harus diperhatikan.

Segala struktur yang melibatkan banyak orang (masyarakat, pasar, perusahaan, dan seterusnya) memerlukan keseimbangan antara kepentingan individu di dalam jaringan preferensi yang saling bergantung dan sistem akuntabilitas. Setiap orang yang menerapkan produk teknologi berskala besar seharusnya mempertimbangkan jaringan tersebut secara menyeluruh, termasuk kepentingan pihak-pihak yang belum dibunuh, seperti pasangan dan orang tua tiri di luar sana.

Kebebasan yang dijelaskan Hotz sebenarnya adalah ruang potensi masa depan yang dimungkinkan oleh usaha kolektif; masa depan itu akan hilang dalam sekejap jika semua orang mulai bertindak seperti Napoleon kecil yang diberdayakan AI. Seperti yang tertulis dalam meme, kita hidup dalam sebuah masyarakat.

Namun, memiliki AI lokal yang siap bertarung melawan dunia korporasi demi kepentingan pribadi terdengar sangat menarik! Segera, diharapkan akan ada unit peninjauan yang dapat dicoba.

About The Author

Teknonesia Team

See author's posts