Seorang hakim mahkamah persekutuan telah mengeluarkan perintah larangan sementara terhadap undang-undang California yang baru berusia dua minggu yang secara efektif melarang deepfake berkaitan pilihan raya.

Undang-undang tersebut - AB 2839 - membenarkan sesiapa sahaja untuk menuntut ganti rugi atas deepfake AI jika kiriman pelaku menyerupai calon politik dalam tempoh 120 hari sebelum pilihan raya dan sehingga 60 hari selepasnya.

Hakim John A. Mendez menyatakan bahawa kecerdasan buatan dan deepfake membawa risiko yang besar tetapi menyatakan bahawa undang-undang tersebut "bertentangan dengan perlembagaan" kerana kemungkinan melanggar Amandemen Pertama.

"Mahkamah mendapati bahawa AB 2839 juga tidak berperlembagaan di bawah peruntukan ucapan bebas California."

Keputusan ini berasal dari kes yang melibatkan Christopher Kohls, yang dikenali sebagai "Encik Reagan" di X. Kohls mencipta video kempen yang diubahsuai menggunakan AI yang mengolok-olokkan Naib Presiden Amerika Syarikat, Kamala Harris pada bulan Julai yang kemudiannya dikongsi oleh pengerusi eksekutif X, Elon Musk.

Seorang peguam yang mewakili Kohls telah mengemukakan saman terhadap Peguam Negara California, Rob Bonta, dan Setiausaha Negeri, Shirley N. Weber, untuk menghalang undang-undang baru California itu sehari selepas Gabenor California, Gavin Newsom menandatanganinya pada 17 September.

Undang-undang tersebut membenarkan hakim California untuk memerintahkan pengedar-pengedar deepfake AI untuk menarik kiriman tersebut atau berhadapan dengan denda wang.

Mendez menyatakan bahawa Kohls "mungkin berjaya dalam tuntutannya di bawah perlembagaan negeri" dan memberikan perintah larangan sementara pada 2 Oktober.

"Kebanyakan daripada AB 2839 bertindak sebagai palu bukan sebagai pisau bedah, ia menjadi alat yang kasar yang menghalang ungkapan humor dan menghalang pertukaran idea yang bebas dan tidak terhalang yang sangat penting dalam perdebatan demokratik Amerika."

Petikan dari keputusan Hakim John A. Mendez dalam kes Kohls. Sumber: Election Law Blog

Mendez juga setuju dengan peguam Kohls bahawa deepfake AI Harris hanyalah "satira" yang sepatutnya dilindungi oleh Amandemen Pertama.

"Walaupun rasa takut yang berasas terhadap landskap media yang dimanipulasi secara digital mungkin dibenarkan, rasa takut ini tidak memberikan kebebasan kepada ahli-ahli undang-undang untuk meruntuhkan tradisi kritikan, parodi, dan satira yang telah lama dilindungi oleh Amandemen Pertama."

Berkaitan: Langkah OpenAI ke arah keuntungan: Adakah ia benar-benar 'haram'?

Pengarah Eksekutif Tesla, Elon Musk, seorang aktivis kebebasan bersuara, melihat keputusan mahkamah ini sebagai kemenangan.

Sumber: Elon Musk

AB 2839 adalah salah satu daripada beberapa undang-undang baru berkaitan AI yang telah tiba di meja Newsom dalam beberapa bulan terakhir.

Baru-baru ini, Newsom menolak Akta Model Kecerdasan Buatan Inovasi Selamat dan Terjamin - SB 1047 - pada 30 September, yang mencadangkan ujian keselamatan wajib bagi model-model AI.

Newsom menyatakan bahawa "walaupun niat yang baik," SB 1047 boleh menimbulkan sekatan yang tidak perlu ke atas syarikat-syarikat AI yang baru berkembang di California.

Majalah: Sistem AI canggih sudah 'sedar diri' - Pengasas ASI Alliance