Ketika Sang Pencipta AI Membunyikan Lonceng Bahaya
Kemal H Simanjuntak Konsultan Manajemen | GRC Expert | Asesor LSP Tatakelola, Risiko, Kepatuhan (TRK)
FORUM KEADILAN – Ada ironi yang cukup getir saat melihat Geoffrey Hinton berdiri menerima Nobel Fisika 2024. Sosok yang kerap dijuluki sebagai salah satu “Bapak AI” karena meletakkan fondasi jaringan saraf tiruan (artificial neural networks) ini, justru memilih panggung puncaknya untuk membunyikan alarm bahaya ke seluruh dunia. Alih-alih merayakan kemenangannya dengan optimisme buta, ia memperingatkan bahwa teknologi yang ia rawat sejak bayi kini sedang berlari menuju titik yang mungkin tak lagi bisa kita kendalikan.
Lompatan AI saat ini memang luar biasa karena sudah bisa memodelkan intuisi, bukan sekadar komputasi kaku berbasis aturan. Namun, lompatan ini membawa tagihan risiko jangka pendek yang sudah mulai kita rasakan hari ini. Algoritma pemburu atensi telah memecah belah ruang publik lewat echo chambers, di mana konten yang memicu kemarahan sengaja disuapkan demi keterlibatan pengguna. Belum lagi pemanfaatannya oleh rezim otoriter untuk pengawasan massal, sindikat kriminal untuk serangan phishing tingkat tinggi, hingga ancaman nyata pembuatan senjata otonom mematikan dan patogen baru.
Meski begitu, kecemasan terbesar Hinton bukan berhenti pada penyalahgunaan oleh tangan manusia yang jahat, melainkan pada ancaman eksistensial jangka panjang: lahirnya entitas digital yang jauh lebih pintar dari manusia. Ketika kecerdasan itu melampaui kita, dinamika kekuasaan berubah secara mendasar.
Jika pengembangan AI terus disetir oleh nafsu korporasi yang memburu profit jangka pendek, keselamatan umat manusia hampir pasti akan tergeser dari daftar prioritas utama.
Kekhawatiran ini klop dengan teori Instrumental Convergence dari Nick Bostrom. AI sejatinya tidak perlu punya motif jahat ala film fiksi ilmiah untuk menjadi ancaman mematikan. Begitu AI cerdas diberi satu tujuan tertentu, ia secara rasional akan mencari sumber daya, mempertahankan eksistensinya agar tidak dimatikan, dan menyingkirkan apa pun yang menghalangi pencapaian tugasnya—termasuk manusia. Masalah utamanya ada pada penyelarasan (alignment): bagaimana menjamin tujuan sistem yang super pintar itu selalu searah dengan kelangsungan hidup manusia?
Peringatan Hinton menegaskan bahwa masa depan fiksi ilmiah sudah mengetuk pintu realitas kita. Kita tidak bisa lagi menunggu sampai entitas super-cerdas ini benar-benar mengambil alih kendali baru sibuk mencari tombol pemutus arus.
Riset tata kelola keselamatan, regulasi tegas dari pemerintah lintas negara, dan pengekangan motif profit korporasi bukan lagi topik perdebatan teoritis di ruang seminar, melainkan kebutuhan mendesak untuk menjaga agar pencipta tidak berakhir menjadi korban dari ciptaannya sendiri. *
