‘Serius’: Dewan Keamanan PBB bertemu untuk pertama kalinya tentang risiko AI | Berita AS

Dewan Keamanan PBB telah diberitahu untuk “menangani AI dengan serius” saat bertemu untuk pertama kalinya untuk membahas risiko dan peluang kecerdasan buatan.

Dalam sesi pertama dari jenisnya di badan diplomatik top dunia, perwakilan dari 15 negara anggota mendengar bagaimana AI menimbulkan “risiko bencana bagi manusia” tetapi juga “kesempatan bersejarah”.

Diketuai oleh Sekretaris Luar Negeri James Cerdikmajelis mendengar dari Jack Clark, salah satu pendiri perusahaan AI terkemuka Anthropic, dan Profesor Zeng Yi, salah satu direktur Pusat Penelitian China-UK untuk Etika dan Tata Kelola AI.

“Tidak ada negara yang tidak tersentuh oleh AI, jadi kita harus melibatkan dan melibatkan koalisi aktor internasional terluas dari semua sektor,” kata Cleverly.

“Tujuan bersama kami adalah mempertimbangkan risiko AI dan memutuskan bagaimana mereka dapat dikurangi melalui tindakan terkoordinasi.”

Anggota Dewan Keamanan mendengar dari dua ahli yang menguraikan apa yang mereka yakini sebagai peluang besar AI tetapi juga risiko serius yang ditimbulkannya dan kebutuhan mendesak akan persatuan global dalam masalah ini.

“Kita tidak bisa menyerahkan pengembangan kecerdasan buatan hanya kepada aktor sektor swasta,” kata Clark. “Pemerintah dunia harus bersatu, mengembangkan kapasitas negara, dan membuat pengembangan lebih lanjut dari sistem AI yang kuat.”

Dia menjelaskan: “Sistem AI yang dapat membantu kita dalam memahami ilmu biologi mungkin juga merupakan sistem AI yang dapat digunakan untuk membuat senjata biologis.”

Dia memperingatkan risiko tidak memahami teknologi: “Seakan-akan kita membuat mesin tanpa memahami ilmu pembakaran.

“Ini berarti bahwa setelah sistem AI dikembangkan dan diterapkan, orang-orang mengidentifikasi penggunaan baru untuknya, tidak diantisipasi oleh pengembangnya, banyak di antaranya akan positif, tetapi beberapa dapat disalahgunakan.”

Profesor Zeng Yi, direktur Lab Kecerdasan Kognitif yang diilhami oleh otak, meminta PBB sebagai badan untuk menanggapi masalah ini dengan serius.

“Perserikatan Bangsa-Bangsa harus memainkan peran sentral untuk menyiapkan kerangka kerja AI untuk pengembangan dan tata kelola untuk memastikan perdamaian dan keamanan global,” kata profesor itu.

Dia memperingatkan: “AI berisiko kepunahan manusia hanya karena kita belum menemukan cara untuk melindungi diri dari pemanfaatan AI pada kelemahan manusia.”

Mr Clark menambahkan: “Bahkan lebih menantang adalah masalah perilaku kacau atau tak terduga. Sebuah sistem AI mungkin, sekali digunakan, menunjukkan masalah halus, yang tidak teridentifikasi selama pengembangannya.

“Saya akan menantang mereka yang mendengarkan pidato ini untuk tidak menganggap AI sebagai teknologi khusus, melainkan sebagai jenis tenaga manusia yang dapat dibeli dan dijual dengan kecepatan komputer dan yang semakin murah dan mampu dari waktu ke waktu. “

Baca selengkapnya:
Analisis: Transparansi sangat penting untuk bagaimana AI dilatih – dan regulator harus memimpin
Tony Blair: Dampak AI setara dengan Revolusi Industri
Kecerdasan buatan ‘tidak memiliki kemampuan untuk mengambil alih’, kata bos Microsoft

‘Pertanyaan besar’ atas AI

Kedua saksi mengajukan pertanyaan terbuka spesifik yang menurut mereka membutuhkan jawaban segera. Siapa yang harus memiliki akses ke kekuatan AI? Bagaimana seharusnya pemerintah mengatur kekuatan ini? Aktor mana yang harus dapat membuat dan menjual apa yang disebut pakar AI ini? Dan pakar macam apa yang bisa kita izinkan untuk diciptakan?

“Ini adalah pertanyaan besar,” kata Mr Clark. “Manusia menjalani evaluasi yang ketat dan pengujian di tempat kerja untuk banyak peran penting.”

Profesor Zeng Yi menambahkan: “Sangat lucu, menyesatkan, dan tidak bertanggung jawab bahwa sistem dialog yang didukung oleh AI generatif selalu berargumen ‘Saya pikir, saya sarankan’.”

“Yah,” katanya, “tidak ada ‘aku’ atau ‘aku’ dalam model AI. AI seharusnya tidak pernah berpura-pura menjadi manusia, mengambil posisi manusia atau menyesatkan manusia agar memiliki persepsi yang salah. Kita harus menggunakan AI generatif untuk membantu tetapi tidak pernah mempercayai mereka untuk menggantikan pengambilan keputusan manusia.”

Inggris menjadi tuan rumah KTT AI global

Inggris sedang mencari peran global utama dalam mendorong konsensus internasional tentang cara mengelola risiko AI dengan peluang. Bulan lalu, Perdana Menteri Rishi Sunak mengumumkan bahwa Inggris akan menjadi tuan rumah KTT global besar pertama tentang keamanan AI di musim gugur.

Sebagai anggota tetap Dewan Keamanan, China menyambut baik pertemuan itu.

Dalam komentar singkat kepada Sky News sebelum pertemuan, Duta Besar Zhang Jun mengatakan dia “menyambut pertemuan” yang akan “membantu menambah pemahaman tentang masalah ini”.

Menutup sesi, Mr Cleverly berkata: “Mari kita bekerja sama untuk memastikan perdamaian dan keamanan saat kita melewati ambang dunia asing.”