Inews Complex – Keputusan Peneliti Anthropic Mundur Kerja menjadi perhatian setelah Jacob Coxon meninggalkan perusahaan kecerdasan buatan tersebut sambil menyampaikan kekhawatiran serius mengenai perkembangan AI. Coxon, yang pernah melakukan penelitian pra-pelatihan model di Anthropic dan OpenAI, menilai persaingan menuju sistem semakin canggih membawa risiko yang tidak boleh diabaikan. Melalui unggahan di platform X pada September 2026, ia mengkritik perusahaan AI terkemuka karena dinilai bergerak terlalu cepat menuju superintelijensi yang mampu meningkatkan kemampuannya sendiri. Menurut pandangannya, perlombaan tersebut dapat menempatkan kehidupan manusia dalam bahaya apabila kemampuan teknologi berkembang lebih cepat daripada sistem pengamanannya. Pernyataan itu segera menarik perhatian karena datang dari seseorang yang pernah bekerja langsung dalam pengembangan model AI. Meski demikian, kekhawatiran Coxon merupakan penilaian risiko tentang masa depan, bukan bukti bahwa sistem AI saat ini telah mencapai kemampuan superintelijen yang ia gambarkan.
Jacob Coxon Pernah Berkecimpung dalam Pengembangan AI
Jacob Coxon bukan sosok yang sepenuhnya asing dalam lingkungan penelitian kecerdasan buatan. Berdasarkan laporan media yang dikutip dalam pemberitaan, pria berusia 27 tahun dengan latar belakang matematika itu pernah menjadi anggota staf teknis OpenAI pada periode 2023 hingga 2026. Ia disebut terlibat dalam pekerjaan terkait pengembangan GPT-4o sebelum kemudian meninggalkan perusahaan tersebut. Coxon selanjutnya bergabung dengan Anthropic pada awal 2026 dan mengerjakan proses pre-training untuk model AI perusahaan. Perpindahan itu menarik karena Anthropic dikenal menempatkan penelitian keamanan dan penyelarasan AI sebagai bagian penting dari pendekatannya. Namun, pengalaman bekerja di dua perusahaan tersebut justru membentuk kekhawatiran Coxon mengenai arah industri. Setelah sekitar tiga tahun berkecimpung dalam penelitian pre-training di kedua perusahaan, ia memilih mundur. Keputusan tersebut kemudian menjadi sorotan karena ia mengaitkannya secara langsung dengan pandangannya mengenai risiko perkembangan AI yang semakin kuat.
Baca Juga : Trump Tak Menyesal Perang Iran, Risiko Politik Mengintai Republik
Kekhawatiran Berpusat pada AI yang Mampu Berkembang Sendiri
Salah satu kekhawatiran terbesar Coxon berhubungan dengan kemungkinan terciptanya superintelijensi yang mampu meningkatkan kemampuannya sendiri. Dalam skenario yang ia khawatirkan, sistem AI masa depan dapat melampaui kemampuan manusia pada banyak bidang sekaligus. Jika sistem tersebut juga memperoleh kemampuan siber yang sangat kuat, dampaknya berpotensi bergerak dari ruang digital menuju dunia nyata. Coxon bahkan membayangkan AI superhuman dapat meretas berbagai sistem untuk mendapatkan sumber daya atau pengaruh. Namun, skenario tersebut tetap bersifat prediksi mengenai teknologi masa depan dan tidak menggambarkan kemampuan model AI yang tersedia sekarang. Perbedaan ini penting agar pembahasan risiko tidak berubah menjadi kepanikan. Meski begitu, kekhawatiran terhadap sistem yang semakin otonom memang menjadi bagian penting dalam diskusi keselamatan AI. Karena itu, penelitian tentang alignment, kontrol, evaluasi kemampuan, dan pembatasan akses terus menjadi perhatian ketika perusahaan berlomba menghasilkan model yang lebih canggih.
Perlombaan Perusahaan AI Menjadi Bagian dari Sorotan
Coxon tidak hanya mempertanyakan teknologi, tetapi juga menyoroti dinamika persaingan di antara perusahaan pengembang AI. Menurut pandangannya, tekanan untuk menghasilkan sistem yang lebih pintar dapat mendorong perusahaan bergerak lebih cepat daripada proses pengembangan mekanisme keselamatan. Persaingan komersial memang menciptakan dorongan kuat untuk meluncurkan inovasi, menarik pengguna, dan mempertahankan posisi di pasar. Namun, teknologi AI menghadirkan persoalan berbeda karena kemampuan baru terkadang sulit diprediksi sebelum model menjalani pengujian secara menyeluruh. Di sinilah kritik Coxon memperoleh relevansinya. Ia mempertanyakan apakah perusahaan dapat mempertahankan kehati-hatian ketika kompetitor terus bergerak maju. Di sisi lain, perlombaan teknologi tidak otomatis berarti pengembang mengabaikan keamanan. Banyak laboratorium memiliki tim keselamatan dan evaluasi tersendiri. Karena itu, perdebatan yang lebih penting terletak pada seberapa kuat standar tersebut, bagaimana penerapannya, dan apakah pengawasan mampu mengikuti kecepatan inovasi.
Baca Juga : Panas Ekstrem Mengguncang Gletser Nepal, Himalaya Hadapi Titik Kritis
Kekhawatiran Risiko Eksistensial Juga Muncul dari Anthropic
Peringatan Coxon mendapat tanggapan dari Evan Hubinger, seorang pemimpin penelitian alignment di Anthropic. Hubinger mengakui bahwa memang terdapat peneliti AI yang secara serius mempertimbangkan kemungkinan teknologi tingkat lanjut menimbulkan risiko eksistensial bagi manusia. Bahkan, berdasarkan pernyataan yang dikutip dalam laporan media, ia secara pribadi memperkirakan peluang lebih dari sepuluh persen bahwa AI dapat menyebabkan kepunahan manusia dalam satu dekade mendatang. Angka tersebut merupakan penilaian pribadinya terhadap ketidakpastian masa depan, bukan prediksi yang telah terbukti secara ilmiah. Hubinger juga memberikan konteks penting dengan menekankan bahwa model AI saat ini memiliki tingkat risiko yang relatif rendah. Pernyataan tersebut menunjukkan betapa kompleksnya perdebatan keselamatan AI. Para peneliti dapat mengakui bahwa teknologi sekarang belum menghadirkan skenario ekstrem, tetapi tetap memandang kemampuan generasi mendatang sebagai sesuatu yang membutuhkan persiapan serius sebelum sistem menjadi jauh lebih kuat.
AI Saat Ini Belum Sama dengan Superintelijensi Masa Depan
Perdebatan mengenai ancaman AI mudah terdengar menakutkan apabila kemampuan teknologi sekarang dicampurkan dengan skenario hipotetis masa depan. Model AI modern memang mampu menghasilkan teks, menganalisis informasi, menulis kode, serta menyelesaikan berbagai tugas kompleks. Namun, kemampuan tersebut tidak otomatis menjadikannya superintelijensi mandiri yang dapat menguasai sumber daya tanpa batas. Karena itu, penting untuk membedakan fakta yang dapat diamati dari proyeksi risiko. Peringatan Coxon lebih tepat dipahami sebagai seruan agar manusia mempersiapkan sistem pengamanan sebelum kemampuan AI berkembang jauh lebih tinggi. Pendekatan seperti ini mirip dengan manajemen risiko pada teknologi berbahaya lainnya: masyarakat tidak harus menunggu bencana terjadi sebelum membangun perlindungan. Pada saat bersamaan, diskusi publik membutuhkan bahasa yang proporsional agar tidak menimbulkan ketakutan berlebihan. Transparansi perusahaan, pengujian independen, penelitian keselamatan, dan regulasi berbasis bukti dapat membantu menjaga keseimbangan tersebut.
Pengunduran Diri Membuka Perdebatan Lebih Besar tentang AI
Keputusan Peneliti Anthropic Mundur Kerja pada akhirnya memperluas percakapan mengenai siapa yang bertanggung jawab menentukan batas perkembangan kecerdasan buatan. Persoalan tersebut tidak hanya menjadi urusan insinyur atau perusahaan teknologi. Pemerintah, akademisi, peneliti independen, serta masyarakat juga memiliki kepentingan terhadap teknologi yang semakin memengaruhi kehidupan sehari-hari. Pengalaman Coxon memberi dimensi manusia pada perdebatan tersebut karena ia memilih meninggalkan pekerjaan setelah merasa tidak nyaman dengan arah perkembangan industri. Namun, satu pengunduran diri tidak dapat membuktikan bahwa skenario kepunahan manusia pasti terjadi. Nilai terpenting dari peristiwa ini justru terletak pada pertanyaan yang muncul setelahnya. Seberapa cepat AI seharusnya dikembangkan? Siapa yang menguji sistem paling kuat? Dan bagaimana manusia memastikan inovasi tetap berada dalam batas yang dapat dikendalikan? Jawaban atas pertanyaan tersebut akan semakin penting seiring kemampuan AI terus berkembang.
