Institut Piawaian dan Teknologi Kebangsaan Amerika Syarikat (NIST) dalam Jabatan Perdagangan AS telah mengeluarkan permintaan maklumat untuk menyokong tugasnya yang dinyatakan dalam arahan eksekutif presiden terkini mengenai pembangunan dan penggunaan yang selamat dan bertanggungjawab bagi kecerdasan buatan (AI).

Organisasi tersebut mengumumkan bahawa mereka mengundang input awam sehingga 2 Februari 2024, untuk mengumpulkan maklum balas penting bagi menjalankan ujian untuk memastikan keselamatan sistem AI.

Menteri Perdagangan AS, Gina Raimondo menyatakan bahawa inisiatif ini diilhamkan oleh arahan eksekutif Presiden Joe Biden pada bulan Oktober yang memerintahkan NIST untuk mencipta panduan, termasuk penilaian dan ujian red-teaming, memupuk piawaian berdasarkan konsensus, dan menubuhkan persekitaran ujian untuk penilaian sistem AI. Kerangka kerja ini bertujuan untuk menyokong komuniti AI dalam membangunkan AI dengan selamat, boleh dipercayai, dan bertanggungjawab.

Permintaan maklumat NIST mencari input daripada syarikat-syarikat AI dan orang awam mengenai pengurusan risiko AI generatif dan mengurangkan risiko maklumat palsu yang dihasilkan oleh AI.

AI generatif, yang mampu menghasilkan teks, foto, dan video berdasarkan permintaan yang terbuka, telah menimbulkan keghairahan dan kebimbangan. Terdapat kebimbangan tentang penggantian pekerjaan, gangguan pilihan raya dan potensi teknologi ini melampaui keupayaan manusia dengan kemungkinan akibat yang membawa malapetaka.

Permintaan NIST juga mencari butiran mengenai penentuan kawasan yang paling berkesan untuk "red-teaming" dalam penilaian risiko AI dan menetapkan amalan terbaik. Red-teaming adalah satu amalan dari simulasi Perang Dingin yang merujuk kepada teknik di mana sekumpulan individu, yang dikenali sebagai pasukan merah, mensimulasikan skenario atau serangan musuh berpotensi untuk menilai kerentanan dan kelemahan sesuatu sistem, proses, atau organisasi. Kaedah ini telah lama digunakan dalam keselamatan siber untuk mengenal pasti risiko-risiko baru.

Berkaitan: UK AI Safety Summit: Musk menyamakan AI dengan 'jin ajaib', kata tiada pekerjaan diperlukan pada masa depan

Pada bulan Ogos, acara penilaian red-teaming awam pertama di AS berlaku dalam satu persidangan keselamatan siber yang dikendalikan oleh AI Village, SeedAI, dan Humane Intelligence.

Pada bulan November, NIST mengumumkan penubuhan konsortium AI baru bersama dengan notis rasmi yang menyatakan permintaan pejabat untuk pemohon dengan kelayakan yang berkaitan. Konsortium ini bertujuan untuk mencipta dan melaksanakan dasar-dasar dan ukuran-ukuran khusus untuk memastikan ahli politik AS mengambil pendekatan berpusatkan manusia terhadap keselamatan dan pentadbiran AI.

Majalah: 'AI telah membunuh industri ini': bos EasyTranslate tentang menyesuaikan diri dengan perubahan