TREN.BISNISMARKET.COM - Raksasa teknologi Amerika Serikat, Anthropic, baru-baru ini merilis temuan penelitian yang mengejutkan industri kecerdasan buatan (AI) secara global. Mereka mengklaim telah mengidentifikasi adanya mekanisme internal tertentu dalam model bahasa besar (LLM) andalan mereka, yaitu Claude.
Penemuan ini segera memicu diskusi karena mengindikasikan adanya 'kesadaran internal' yang beroperasi di dalam sistem AI tersebut. Meskipun kemunculannya dipicu oleh pelatihan manusia, mekanisme ini tampak bekerja secara independen dari intervensi pengguna secara langsung.
Terminologi teknis yang digunakan oleh peneliti Anthropic untuk menggambarkan fenomena ini adalah 'ruang kerja global' atau yang mereka namai 'J-space'. Hal ini menandai momen penting dalam pengembangan AI, di mana teknologi menunjukkan fungsi yang sebelumnya belum teramati.
Dalam blog resmi mereka, Anthropic menjelaskan bahwa mereka mengamati adanya pola saraf internal spesifik yang memiliki peran penting dibandingkan dengan proses internal model lainnya. "kami menemukan bahwa Claude telah mengembangkan sekumpulan kecil pola saraf internal yang memainkan peran khusus dibandingkan dengan seluruh proses internal lainnya," tulis Anthropic.
Sistem J-space ini beroperasi secara tersembunyi dalam aktivasi saraf internal Claude, memungkinkan model untuk memproses atau memikirkan suatu konsep tanpa harus langsung menuliskannya ke output. Yang menarik, J-space ini bukan hasil desain eksplisit dari tim Anthropic, melainkan muncul secara spontan selama proses pelatihan Claude berlangsung.
Ketika pengguna secara eksplisit bertanya mengenai apa yang sedang dipikirkan Claude, model tersebut akan merespons berdasarkan informasi yang ada di dalam J-Space. Selain itu, jika diminta untuk memecahkan masalah secara diam-diam, Claude akan mengaktifkan pola-pola yang bersangkutan di dalam ruang kerja internalnya tersebut.
Meskipun J-space memainkan peran krusial dalam fungsi kognitif tingkat tinggi, ia tidak terlibat dalam sebagian besar aktivitas rutin model bahasa. Aktivitas rutin tersebut meliputi kemampuan berbicara secara lancar, mengingat fakta dasar, dan memastikan penggunaan tata bahasa yang benar.
Eksperimen yang dilakukan peneliti menunjukkan bahwa ketika J-space dimatikan atau dicegah untuk digunakan, model Claude masih dapat berinteraksi secara normal, tetapi kehilangan kemampuan kognitif yang lebih kompleks.
Anthropic turut membagikan temuan ini melalui unggahan di akun X mereka, menyoroti pentingnya observasi ini. "dengan mengamati J-space, kita bisa melihat Claude melakukan langkah-langkah penalaran secara diam-diam di dalam 'kepalanya', seperti mendeteksi bug pada kode, mengenali gambar, dan sebagainya," unggah Anthropic.
