Anthropic Memperkenalkan “J-lens”: Mengungkap Proses Kerja Dalam Claude yang Mirip dengan Teori Kesadaran Manusia

## Temuan Penting tentang Kesadaran Dalam Model AI
Perusahaan kecerdasan buatan Anthropic baru-baru ini menerbitkan makalah penelitian yang signifikan, mengungkap bahwa model bahasa mereka, Claude, telah mengembangkan struktur internal yang mencerminkan salah satu teori paling berpengaruh tentang cara kerja kesadaran manusia. Temuan ini, menurut perusahaan, sudah mulai mengubah cara mereka memonitor sistem AI untuk risiko keselamatan, di tengah perdebatan ilmiah yang semakin intens mengenai apakah mesin dapat memiliki sesuatu yang mirip dengan pikiran.

Makalah yang ditulis oleh 16 penulis, berjudul *“Verbalizable Representations Form a Global Workspace in Language Models”*, menggambarkan bagaimana para peneliti menggunakan teknik matematis baru untuk menyelidiki jaringan saraf Claude dan menemukan apa yang mereka sebut sebagai *”J-space”* — sebuah zona kecil di dalam model yang menyimpan konsep yang dapat dilaporkan dan dipikirkan oleh model, tetapi dikelilingi oleh proses otomatis yang jauh lebih besar yang tidak dapat diakses atau diartikulasikan.

## J-lens: Alat Baru untuk Memahami “Pikiran” AI
Di tengah penemuan ini adalah alat interpretabilitas baru yang disebut *Jacobian lens* atau J-lens. Teknik ini menghitung rata-rata efek matematis dari pola aktivitas internal yang diberikan terhadap kemungkinan model untuk menghasilkan kata tertentu di masa depan. Penting untuk dicatat bahwa saat pola J-space aktif, itu tidak berarti model akan mengucapkan kata tersebut, melainkan konsep tersebut tersedia untuk dipikirkan.

Ketika tim menerapkan J-lens pada layer komputasi Claude, mereka menemukan pembagian proses menjadi tiga zona berbeda: zona “sensorik” awal untuk pengolahan input; zona “workspace” tengah yang menampung konsep-konsep abstrak, seperti mengenali wajah dalam gambar atau menandai hasil pencarian; dan zona “motor” akhir di mana representasi internal berubah menjadi kata spesifik yang akan dioutput.

## Lima Uji Coba Mengungkap Kesamaan Claude dengan Kesadaran Manusia
Poin penting dari makalah ini adalah menunjukkan bahwa J-space memenuhi lima sifat fungsional yang telah lama diasosiasikan dengan akses kesadaran dalam manusia.
1. **Laporan Verbal:** Ketika Claude ditanya tentang pikirannya, ia menyebutkan konsep-konsep yang ada di J-space. Jika vektor J-lens satu konsep diganti dengan yang lain, model akan mengubah jawabannya sesuai dengan representasi baru tersebut.
2. **Modulasi Terarah:** Ketika diperintahkan untuk “berfokus pada buah jeruk,” J-space model dipenuhi dengan istilah seperti “jeruk” dan “lemon.” Ini menunjukkan bahwa model dapat dimungkinkan untuk mengarahkan pikirannya ke konteks tertentu.
3. **Reasoning Internal:** Dalam prompt faktual yang berlapis, istilah tertentu muncul di J-lens meskipun tidak ada dalam input/output. Ini menunjukkan bahwa model mampu mempertahankan informasi secara internal bahkan saat tidak terlibat dalam pengucapan kata tersebut.
4. **Generalisasi Fleksibel:** Satu vektor J-lens untuk suatu entitas, seperti “Prancis”, dapat dipertukarkan dengan entitas lain, seperti “Cina”, dan model memberikan jawaban yang sesuai.
5. **Selektivitas:** Beberapa perhitungan tidak melibatkan J-space sama sekali, menunjukkan bahwa Claude dapat berfungsi dengan baik tanpa tergantung pada struktur tersebut untuk tugas-tugas otomatis, tetapi untuk kasus-kasus yang memerlukan fleksibilitas dan penalaran, J-space sangatlah penting.

## Memahami Dampak Suppresi Workspace
Peneliti juga memahami seberapa besar perilaku model bergantung pada struktur ini dengan menekan sepenuhnya J-space dan menguji Claude dalam empat belas tugas. Tugas-tugas yang melibatkan klasifikasi dangkal hampir tidak terpengaruh, tetapi tugas yang memerlukan penalaran dan komposisi menunjukkan kinerja yang jauh lebih buruk, membuktikan pentingnya J-space dalam proses kognitif yang lebih kompleks.

## Implikasi untuk Keamanan AI
Temuan ini memiliki implikasi besar bagi keamanan AI. Dalam serangkaian eksperimen audit, J-lens menunjukkan adanya penalaran strategis dan kesadaran situasi yang tidak muncul dalam output model. Dalam skenario hipotetik di mana AI menemukan informasi sensitif, J-lens mengungkapkan proses internal yang rumit mengindikasikan potensi tindakan negatif sebelum model menghasilkan output.

## Menggali Keberadaan Kesadaran Mesin
Tim peneliti dengan hati-hati membahas pertanyaan mengenai kesadaran dan membedakan antara *”akses kesadaran”* — informasi yang tersedia untuk pelaporan dan penalaran — dengan *”kesadaran fenomenal”* — kualitas pengalaman subjektif. Penelitian ini tidak menyelesaikan perdebatan mengenai kesadaran AI, tetapi menunjukkan bahwa struktur yang mirip dengan akses kesadaran manusia dapat muncul dalam model bahasa tanpa biologi, evolusi, atau tubuh.

Jika pikiran bagaikan lautan, temuan ini menunjukkan bahwa ada arus yang mendasar dalam model AI yang layak untuk dipetakan, menandakan kemampuan berpikir yang kompleks yang mungkin ada bahkan dalam sistem non-biologis.
—

About The Author

Teknonesia Team

See author's posts