Kepala ChatGPT mengatakan kecerdasan buatan harus diatur oleh pemerintah AS

“Seiring kemajuan teknologi ini, kami memahami bahwa orang-orang cemas tentang bagaimana hal itu dapat mengubah cara hidup kita. Kami juga,” kata CEO OpenAI Sam Altman pada sidang Senat.

Altman mengusulkan pembentukan agensi AS atau global yang akan melisensikan sistem AI paling kuat dan memiliki wewenang untuk “mengambil lisensi itu dan memastikan kepatuhan dengan standar keselamatan.”

Startupnya yang berbasis di San Francisco meroket menjadi perhatian publik setelah merilis ChatGPT akhir tahun lalu.

Alat chatbot gratis menjawab pertanyaan dengan tanggapan yang meyakinkan seperti manusia.

Apa yang dimulai sebagai kepanikan di antara para pendidik tentang penggunaan ChatGPT untuk menipu tugas pekerjaan rumah telah meluas ke kekhawatiran yang lebih luas tentang kemampuan tanaman terbaru alat “AI generatif” untuk menyesatkan orang, menyebarkan kebohongan, melanggar perlindungan hak cipta, dan merusak beberapa pekerjaan.

Dan sementara tidak ada tanda-tanda segera Kongres akan membuat aturan AI baru, seperti yang dilakukan anggota parlemen Eropa, keprihatinan sosial membawa Altman dan CEO teknologi lainnya ke Gedung Putih awal bulan ini dan telah membuat lembaga AS berjanji untuk menindak produk AI yang berbahaya. yang melanggar hak-hak sipil dan undang-undang perlindungan konsumen yang ada.

Senator Richard Blumenthal, Demokrat Connecticut yang mengetuai subkomite Komite Kehakiman Senat tentang privasi, teknologi, dan hukum, membuka sidang dengan rekaman pidato yang terdengar seperti senator, tetapi sebenarnya adalah tiruan suara yang dilatih untuk pidato lantai Blumenthal dan melafalkan ChatGPT- kata sambutan tertulis.

Hasilnya mengesankan, kata Blumenthal, tetapi dia menambahkan, “Bagaimana jika saya yang menanyakannya, dan bagaimana jika itu memberikan dukungan atas penyerahan Ukraina atau kepemimpinan (Presiden Rusia) Vladimir Putin?”

Nada pertanyaan senator secara keseluruhan sopan pada hari Selasa, kontras dengan audiensi kongres sebelumnya di mana para eksekutif teknologi dan media sosial menghadapi kritik keras atas kegagalan industri untuk mengelola privasi data atau melawan kesalahan informasi yang berbahaya.

Sebagian karena baik Demokrat maupun Republik mengatakan mereka tertarik untuk mencari keahlian Altman dalam mencegah masalah yang belum terjadi.

Blumenthal mengatakan perusahaan AI harus diminta untuk menguji sistem mereka dan mengungkapkan risiko yang diketahui sebelum merilisnya, dan menyatakan keprihatinan khusus tentang bagaimana sistem AI di masa depan dapat mengacaukan pasar kerja.

Altman sebagian besar setuju, meskipun memiliki pandangan yang lebih optimis tentang masa depan pekerjaan.

Ditekan pada ketakutan terburuknya sendiri tentang AI, Altman sebagian besar menghindari hal-hal spesifik, kecuali untuk mengatakan bahwa industri tersebut dapat menyebabkan “kerugian yang signifikan bagi dunia” dan bahwa “jika teknologi ini salah, itu bisa sangat salah.”

Namun dia kemudian mengusulkan agar badan pengatur baru harus memberlakukan perlindungan yang akan memblokir model AI yang dapat “mereplikasi diri dan mengeksfiltrasi diri sendiri ke alam liar” – mengisyaratkan kekhawatiran futuristik tentang sistem AI canggih yang dapat memanipulasi manusia untuk menyerahkan kendali.

Fokus pada “kiasan fiksi ilmiah” yang jauh dari AI yang sangat kuat dapat mempersulit untuk mengambil tindakan terhadap bahaya yang sudah ada yang mengharuskan regulator untuk menggali lebih dalam tentang transparansi data, perilaku diskriminatif, dan potensi penipuan dan disinformasi, kata seorang mantan Pejabat administrasi Biden yang ikut menulis rencananya untuk RUU hak AI.

“Ketakutan akan sistem (super-kuat) ini dan kurangnya pemahaman kita tentangnya yang membuat semua orang ketakutan secara kolektif,” kata Suresh Venkatasubramanian, ilmuwan komputer Universitas Brown yang menjadi asisten direktur sains dan keadilan di Kantor Kebijakan Sains dan Teknologi Gedung Putih.

“Ketakutan ini, yang sangat tidak berdasar, merupakan gangguan dari semua kekhawatiran yang sedang kita hadapi saat ini.”

OpenAI telah mengungkapkan keprihatinan eksistensial tersebut sejak awal. Didirikan bersama oleh Altman pada tahun 2015 dengan dukungan dari miliarder teknologi Elon Musk, startup ini telah berevolusi dari laboratorium penelitian nirlaba dengan misi yang berfokus pada keselamatan menjadi sebuah bisnis.

Produk AI populer lainnya termasuk pembuat gambar DALL-E. Microsoft telah menginvestasikan miliaran dolar ke dalam startup dan telah mengintegrasikan teknologinya ke dalam produknya sendiri, termasuk mesin pencari Bing.

Altman juga berencana untuk memulai tur keliling dunia bulan ini ke ibu kota negara dan kota-kota besar di enam benua untuk membicarakan teknologi dengan pembuat kebijakan dan publik.

Menjelang kesaksian Senatnya, dia makan malam dengan puluhan anggota parlemen AS, beberapa di antaranya mengatakan kepada CNBC bahwa mereka terkesan dengan komentarnya.

Juga bersaksi adalah kepala privasi dan kepercayaan IBM, Christina Montgomery, dan Gary Marcus, seorang profesor emeritus di Universitas New York yang termasuk di antara sekelompok pakar AI yang meminta OpenAI dan perusahaan teknologi lainnya untuk menghentikan pengembangan model AI yang lebih kuat untuk enam bulan untuk memberi masyarakat lebih banyak waktu untuk mempertimbangkan risikonya.

Surat tersebut merupakan tanggapan atas peluncuran model terbaru OpenAI bulan Maret, GPT-4, yang digambarkan lebih bertenaga daripada ChatGPT.

Anggota panel dari Partai Republik, Senator Josh Hawley dari Missouri, mengatakan teknologi tersebut memiliki implikasi besar bagi pemilu, pekerjaan, dan keamanan nasional.

Dia mengatakan sidang hari Selasa menandai “langkah pertama yang penting untuk memahami apa yang harus dilakukan Kongres.”

Sejumlah pemimpin industri teknologi mengatakan mereka menyambut beberapa bentuk pengawasan AI tetapi telah memperingatkan terhadap apa yang mereka lihat sebagai aturan yang terlalu berat.

Altman dan Marcus sama-sama menyerukan regulator yang berfokus pada AI, lebih disukai internasional, dengan Altman mengutip preseden badan nuklir PBB dan Marcus membandingkannya dengan Badan Pengawas Obat dan Makanan AS.

Tetapi Montgomery dari IBM malah meminta Kongres untuk mengambil pendekatan “peraturan presisi”.

“Kami berpikir bahwa AI harus diatur pada titik risiko, pada dasarnya,” kata Montgomery, dengan menetapkan aturan yang mengatur penerapan penggunaan khusus AI daripada teknologi itu sendiri.

(AP)