Keamanan kecerdasan buatan

Keamanan kecerdasan buatan adalah sebuah bidang interdisipliner yang berfokus pada pencegahan kecelakaan, penyalahgunaan, atau konsekuensi berbahaya lainnya yang mungkin timbul dari sistem kecerdasan buatan. Bidang ini mencakup penyelarasan kecerdasan buatan (yang bertujuan memastikan sistem kecerdasan buatan bertindak sesuai dengan maksud yang diharapkan), pemantauan risiko dari sistem kecerdasan buatan, serta peningkatan ketahanannya. Perhatian utama dalam bidang ini tertuju pada risiko eksistensial yang berpotensi ditimbulkan oleh model kecerdasan buatan tingkat lanjut.^[1][2]

Selain penelitian teknis, keamanan kecerdasan buatan juga mencakup pengembangan norma serta kebijakan yang mendukung keselamatan. Bidang ini memperoleh perhatian luas pada tahun 2023, seiring dengan kemajuan pesat dalam kecerdasan buatan generatif dan meningkatnya kekhawatiran publik yang disuarakan oleh para peneliti maupun CEO mengenai potensi bahayanya. Pada KTT Keamanan Kecerdasan Buatan tahun 2023, Amerika Serikat dan Britania Raya masing-masing membentuk Institut Keamanan Kecerdasan Buatan mereka sendiri. Namun demikian, sejumlah peneliti menyampaikan kekhawatiran bahwa langkah-langkah keamanan kecerdasan buatan masih belum sejalan dengan kecepatan perkembangan kapabilitas kecerdasan buatan.^[3]

Motivasi

Para ilmuwan mendiskusikan risiko terkini dari kegagalan sistem kritis,^[4] bias,^[5] dan pengawasan yang didukung AI,^[6] serta risiko yang muncul seperti pengangguran teknologi, manipulasi digital,^[7] persenjataan,^[8] serangan siber yang didukung AI,^[9] dan bioterorisme.^[10] Mereka juga membahas risiko spekulatif dari hilangnya kendali atas agen kecerdasan umum buatan (AGI) di masa depan,^[11] atau dari AI yang memungkinkan kediktatoran yang selalu stabil.^[12]

Keamanan eksistensial

Beberapa pihak mengkritik kekhawatiran mengenai AGI, seperti Andrew Ng yang membandingkannya pada tahun 2015 dengan “kekhawatiran mengenai kelebihan populasi di Mars padahal kita bahkan belum menginjakkan kaki di planet tersebut”.^[13] Stuart J. Russell di sisi lain mendesak kehati-hatian, dengan menyatakan bahwa "lebih baik mengantisipasi kecerdikan manusia daripada meremehkannya".^[14]

Para peneliti AI memiliki pendapat yang sangat berbeda tentang tingkat keparahan dan sumber utama risiko yang ditimbulkan oleh teknologi AI.^[15][16][17] Meskipun survei menunjukkan bahwa para ahli menganggap serius risiko dengan konsekuensi tinggi, dalam dua survei peneliti AI, responden median optimis terhadap AI secara keseluruhan, tetapi menempatkan probabilitas 5% pada hasil "sangat buruk (misalnya kepunahan manusia)" dari AI tingkat lanjut.^[15] Dalam survei komunitas pemrosesan bahasa alami tahun 2022, 37% setuju atau agak setuju bahwa masuk akal jika keputusan AI dapat menyebabkan bencana yang "setidaknya seburuk perang nuklir besar-besaran".^[18]

Perkembangan sejak 2023

Seiring meningkatnya kemampuan kecerdasan buatan generatif dan model bahasa besar, penelitian mengenai keamanan AI berkembang dari fokus pada masalah seperti bias dan ketepatan keluaran menjadi perhatian yang lebih luas terhadap penyalahgunaan, malfungsi, serta dampak sistemik dari penerapan AI secara luas.

Pada tahun 2025 dan 2026, sejumlah penelitian dan laporan internasional menekankan bahwa kemampuan sistem AI berkembang terutama dalam bidang matematika, pemrograman, dan pengoperasian secara lebih mandiri. Perkembangan tersebut juga menimbulkan tantangan baru dalam pemantauan dan pengendalian sistem.^[19]

Laporan tersebut mengelompokkan risiko dari sistem AI serbaguna menjadi tiga kategori utama: penyalahgunaan, yaitu penggunaan AI secara sengaja untuk menyebabkan kerugian; malfungsi, yaitu kegagalan atau perilaku tidak terduga yang menimbulkan dampak berbahaya; dan risiko sistemik, yaitu risiko yang berkaitan dengan penerapan AI secara luas dalam masyarakat dan perekonomian.^[20]

Mitigasi dan pengelolaan risiko

Upaya meningkatkan keamanan AI mencakup berbagai metode teknis dan nonteknis. Pengembang dapat melakukan evaluasi terhadap kemampuan berbahaya, melatih model agar menolak permintaan tertentu, menerapkan pembatasan akses, serta memantau penggunaan sistem setelah penerapan.^[21]

Salah satu pendekatan yang digunakan adalah pertahanan berlapis (defence in depth), yaitu penggunaan beberapa mekanisme pengamanan secara bersamaan. Mekanisme tersebut dapat mencakup pelatihan model, penyaring masukan dan keluaran, pemantauan penggunaan, pengawasan manusia, serta mekanisme pengendalian akses.^[22]

Metode lain meliputi pelatihan adversarial, pemantauan keluaran model, pendeteksian konten yang dihasilkan AI, serta teknik seperti watermarking untuk membantu mengidentifikasi konten sintetis. Namun, efektivitas metode tersebut berbeda-beda dan sejumlah pengamanan dapat dilewati melalui teknik tertentu, termasuk jailbreak atau perubahan cara penyampaian permintaan.^[23]

Pengelolaan risiko juga menghadapi apa yang disebut sebagai kesenjangan evaluasi, yaitu kesulitan memperoleh bukti yang tepat waktu dan dapat diandalkan mengenai kemampuan serta dampak sistem AI. Evaluasi sebelum penerapan tidak selalu dapat memprediksi perilaku sistem dalam penggunaan dunia nyata.^[24]

Tantangan penelitian

Salah satu tantangan utama keamanan AI adalah perubahan kemampuan sistem yang berlangsung cepat, sementara bukti mengenai dampak dan efektivitas mitigasi sering kali muncul lebih lambat. Kondisi tersebut menyulitkan peneliti dan pembuat kebijakan dalam menilai risiko secara tepat waktu.^[25]

Tantangan lainnya adalah perbedaan antara hasil pengujian dan perilaku sistem dalam penggunaan nyata. Model dapat menunjukkan perilaku yang berbeda ketika berhadapan dengan pengguna, lingkungan, atau rangkaian tugas yang tidak terdapat dalam evaluasi. Oleh karena itu, pemantauan setelah penerapan menjadi salah satu bagian penting dalam pengelolaan risiko.^[26]

Pada model dengan bobot terbuka (open-weight), pengembang juga menghadapi tantangan tambahan karena mekanisme pengamanan yang diterapkan pada layanan terkelola dapat lebih sulit diterapkan setelah model dan bobotnya tersedia secara luas.^[27]

Referensi

Pranala luar

• Unsolved Problems in ML Safety
• On the Opportunities and Risks of Foundation Models
• An Overview of Catastrophic AI Risks
• AI Accidents: An Emerging Threat
• Engineering a Safer World
• International AI Safety Report

Artikel bertopik kecerdasan buatan ini adalah sebuah rintisan. Anda dapat membantu Wikipedia dengan mengembangkannya.

• l
• b
• s