Setelah mendapat tekanan yang signifikan dari Silicon Valley, Gabenor California, Gavin Newsom telah menolak undang-undang kecerdasan buatan (AI) yang sangat diperdebatkan — dengan alasan bahwa undang-undang tersebut akan menghambat inovasi dan gagal melindungi masyarakat dari ancaman "nyata" yang ditimbulkan oleh teknologi tersebut.

Newsom menolak SB 1047 — yang dikenal sebagai Undang-Undang Inovasi Aman dan Terjamin untuk Model Kecerdasan Buatan di Masa Depan — pada tanggal 30 September. Undang-undang ini mengusulkan pengujian keamanan wajib untuk model AI dan pengaturan lainnya, dengan perusahaan teknologi khawatir bahwa hal ini akan menghambat inovasi.

Dalam pernyataan pada tanggal 29 September, Newsom mengatakan bahwa undang-undang ini terlalu fokus pada pengaturan perusahaan AI terkemuka yang sudah ada tanpa melindungi masyarakat dari ancaman "nyata" yang ditimbulkan oleh teknologi baru ini.

"Sebaliknya, undang-undang ini menerapkan standar yang ketat bahkan untuk fungsi paling dasar — selama sistem besar menggunakannya. Saya tidak percaya bahwa ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi ini."

Ditulis oleh Senator Demokrat San Francisco, Scott Wiener, SB 1047 juga akan memerlukan pengembang di California — termasuk perusahaan besar seperti OpenAI pembuat ChatGPT, Meta, dan Google — untuk mengimplementasikan "kill switch" untuk model AI mereka dan menerbitkan rencana untuk mengurangi risiko ekstrem.

Jika undang-undang ini diberlakukan, pengembang AI juga dapat dituntut oleh jaksa agung negara dalam kasus ancaman yang sedang berlangsung dari model seperti pengambilalihan grid AI.

Newsom mengatakan bahwa ia telah meminta para ahli keamanan AI terkemuka di dunia untuk membantu California "mengembangkan pengaman yang dapat diterapkan" yang berfokus pada "analisis lintasan berbasis ilmiah". Ia menambahkan bahwa ia telah memerintahkan lembaga-lembaga negara untuk memperluas penilaian mereka terhadap risiko dari peristiwa bencana potensial yang berasal dari perkembangan AI.

Terkait: Langkah OpenAI menjadi perusahaan: Apakah itu benar-benar 'ilegal'?

Meskipun Newsom menolak SB 1047, ia mengatakan bahwa protokol keamanan yang memadai untuk AI harus diadopsi, dan menambahkan bahwa regulator tidak bisa "menunggu terjadinya bencana besar sebelum mengambil tindakan untuk melindungi masyarakat."

Newsom menambahkan bahwa pemerintahannya telah menandatangani lebih dari 18 undang-undang mengenai regulasi AI dalam 30 hari terakhir.

Politisi dan perusahaan teknologi besar menentang undang-undang keamanan AI

Undang-undang ini tidak populer di kalangan anggota parlemen, penasihat, dan perusahaan teknologi besar sebelum keputusan Newsom.

Ketua DPR Nancy Pelosi dan perusahaan seperti OpenAI mengatakan bahwa undang-undang ini akan menghambat pertumbuhan AI secara signifikan.

Kepala kebijakan AI di Abundance Institute, Neil Chilson, memperingatkan bahwa meskipun undang-undang ini terutama ditujukan untuk model dengan biaya dan ukuran tertentu — model yang biayanya lebih dari $100 juta — cakupannya dapat dengan mudah diperluas untuk menindak pengembang yang lebih kecil juga.

Namun, beberapa orang mendukung undang-undang ini. Miliarder Elon Musk — yang sedang mengembangkan model AI-nya sendiri yang disebut "Grok" — termasuk dalam sedikit pemimpin teknologi yang mendukung undang-undang ini dan regulasi AI secara lebih luas.

Dalam sebuah postingan di X pada tanggal 26 Agustus, Musk mengatakan "California mungkin sebaiknya mengesahkan undang-undang keamanan AI SB 1047," tetapi mengakui bahwa mendukung undang-undang ini adalah "keputusan sulit".

Majalah: Sistem AI canggih sudah 'sadar diri' — Pendiri ASI Alliance