- Gubernur California Gavin Newsom memveto rancangan undang-undang keselamatan kecerdasan buatan pada hari Minggu.
- RUU tersebut bertujuan untuk menciptakan langkah-langkah keamanan bagi perusahaan yang menghabiskan $100 juta untuk pelatihan AI.
- Newsom menyebutkan kekhawatiran akan terhambatnya inovasi, karena California mendominasi pengembangan AI.
Gubernur California Gavin Newsom memveto rancangan undang-undang keselamatan kecerdasan buatan pada hari Minggu, sebuah kemenangan bagi perusahaan kelas berat AI seperti OpenAI dan perusahaan Teknologi Besar yang melakukan lobi untuk menentangnya.
RUU tersebut, SB 1047, diperkenalkan awal tahun ini oleh Senator Scott Weiner dan disahkan Majelis Negara Bagian California bulan lalu. RUU ini bertujuan untuk memaksa pengembangan langkah-langkah keselamatan di perusahaan-perusahaan yang menghabiskan $100 juta atau lebih untuk melatih model AI sehingga teknologi mereka tidak dapat digunakan untuk merugikan masyarakat – sebuah definisi longgar yang menurut RUU tersebut dapat mencakup pembuatan senjata berbahaya atau melakukan serangan siber.
“Veto ini merupakan kemunduran bagi semua orang yang percaya pada pengawasan terhadap perusahaan besar,” kata Senator Wiener dalam sebuah pernyataan pada hari Minggu.
Sekitar dua minggu yang lalu, Newsom mengatakan bahwa dia khawatir dengan potensi “dampak mengerikan” dari RUU tersebut terhadap pengembangan AI. Dia mengatakan dia tidak ingin California kehilangan dominasinya atas bidang AI.
“RUU ini menerapkan standar yang ketat bahkan untuk fungsi-fungsi yang paling mendasar sekalipun – selama sistem besar menerapkannya,” kata gubernur dalam sebuah pernyataan pada hari Minggu. “Saya tidak percaya ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.”
RUU yang kini sudah tidak berlaku lagi juga mengharuskan perusahaan-perusahaan yang beroperasi di California untuk melakukan hal tersebut melaporkan setiap insiden keselamatan berasal dari produk AI mereka kepada pemerintah. Hal ini akan melindungi pelapor perusahaan dan memungkinkan pihak ketiga menguji keamanan model. RUU itu mengatakan, jika perlu, pengembang harus bisa melakukan penutupan penuh alat AI mereka.
Perdebatan di California mencerminkan tantangan yang dihadapi pemerintah dalam menentukan batas antara mengizinkan perusahaan teknologi berinovasi sekaligus melindungi diri dari potensi risiko baru. Newsom mungkin juga ingin memberi isyarat bahwa negara bagian tersebut terbuka untuk bisnis setelah serangkaian keluarnya perusahaan terkenal, termasuk Chevron, Tesla, Oracle, Charles Schwab, dan CBRE.
Dalam rilis yang mengumumkan veto tersebut, kantor Newsom juga mencatat bahwa gubernur menandatangani 17 rancangan undang-undang selama sebulan terakhir terkait dengan AI generatif, yang menindak deepfake dan misinformasi serta bertujuan untuk melindungi anak-anak dan karyawan.
Kelegaan bagi lawan
Veto Newsom akan melegakan banyak orang di Silicon Valley yang mengkritik RUU tersebut, dengan mengatakan bahwa RUU tersebut akan merugikan inovasi.
Wakil presiden kebijakan Meta, Rob Sherman memuji Newsom karena menolak RUU tersebut. Dalam sebuah X posting pada hari Minggu, dia mengatakan RUU tersebut akan “merugikan pertumbuhan bisnis dan penciptaan lapangan kerja, dan mematahkan tradisi panjang negara bagian dalam mendorong pengembangan sumber terbuka.”
Marc Andreessen, mitra umum di perusahaan Modal Ventura Andreessen Horowitz, juga memuji keputusan Newsom. Di sebuah penyataan di X, dia mengatakan veto tersebut berpihak pada pertumbuhan dan kebebasan California atas “safetyism, doomerism, dan kemunduran.”
Jason Kwon, Kepala strategi OpenAImemperingatkan dalam suratnya pada bulan Agustus kepada Senator Wiener bahwa RUU tersebut dapat menghambat kemajuan dan mendorong perusahaan keluar dari California.
Pembuat ChatGPT bergabung dengan raksasa teknologi Meta dalam melobi menentang RUU tersebut. Meta mengatakan bahwa RUU tersebut dapat menghambat pergerakan open source karena membuat pengembang mempunyai tanggung jawab hukum yang besar.
Andreessen Horowitz juga menyebutkan kekhawatiran inovasi serupa dan dibayar untuk kampanye petisi menentang RUU tersebut.
Yang pasti, tidak semua perusahaan teknologi besar menentang RUU tersebut.
Elon Musk, yang mendirikan perusahaan AI xAI tahun lalu, mengatakan bulan lalu bahwa meskipun demikian “sebuah keputusan yang sulit dan akan membuat beberapa orang kesal,” dia berpikir “California mungkin harus meloloskan RUU keselamatan AI SB 1047.”
CEO Anthropic Dario Amodei tampak berpindah posisi di tengah perdebatan. Pada bulan Agustus, dia mengatakan bahwa “manfaat dari RUU tersebut kemungkinan besar lebih besar daripada biayanya.” Namun, ia menambahkan bahwa “kami tidak yakin mengenai hal ini, dan masih ada beberapa aspek dari RUU tersebut yang tampak mengkhawatirkan atau ambigu bagi kami.”
Beberapa mantan karyawan OpenAI juga mendukung RUU keselamatan dan mengatakan bahwa penolakan OpenAI terhadap RUU tersebut mengecewakan.
“Kami bergabung dengan OpenAI karena kami ingin memastikan keamanan sistem AI yang sangat kuat yang sedang dikembangkan perusahaan,” tulis mantan peneliti OpenAI, William Saunders dan Daniel Kokotajlo, dalam surat tersebut. “Tetapi kami mengundurkan diri dari OpenAI karena kami kehilangan kepercayaan bahwa OpenAI akan mengembangkan sistem AI-nya dengan aman, jujur, dan bertanggung jawab.”