OpenAI menyerlahkan lima pelajaran penting yang dipelajari dari program sumbangan $1 juta mereka untuk melibatkan masyarakat dalam memutuskan cara kecerdasan buatan (AI) agar lebih sejalan dengan nilai-nilai kemanusiaan.
Pada Mei 2023, perusahaan tersebut mengumumkan bahwa mereka sedang mempersiapkan untuk memberikan 10 sumbangan senilai $100,000 masing-masing untuk percobaan dalam membangun proses demokratis "proof-of-concept" untuk menentukan aturan-aturan yang harus diikuti oleh sistem AI.
Dalam sebuah pos blog pada 16 Januari, perusahaan AI tersebut menjelaskan bagaimana 10 tim yang menerima sumbangan tersebut berinovasi dalam teknologi demokratis, pembelajaran penting dari program sumbangan, dan rencana implementasi OpenAI untuk teknologi demokratis baru tersebut.
Menurut pos tersebut, tim-tim tersebut mengumpulkan pandangan peserta dengan berbagai cara dan menemukan bahwa pandangan masyarakat sering berubah, yang berpotensi mempengaruhi seberapa sering proses pengumpulan masukan harus dilakukan. OpenAI mengetahui bahwa proses kolektif harus secara efisien mengumpulkan nilai-nilai fundamental dan cukup sensitif untuk mendeteksi perubahan pandangan yang bermakna dari waktu ke waktu.
Selain itu, beberapa tim menemukan bahwa menjembatani kesenjangan digital masih sulit, yang dapat mempengaruhi hasil. Merekrut peserta dari berbagai latar belakang digital menjadi tantangan karena keterbatasan platform dan masalah pemahaman bahasa atau konteks lokal.
Terkait: Tata kelola kunci untuk menikmati manfaat perkembangan cepat AI: panel WEF
Namun, beberapa tim menghadapi kesulitan dalam mencapai kesepakatan dalam kelompok yang terpolarisasi, terutama ketika sekelompok kecil memiliki pendapat yang kuat tentang suatu masalah tertentu. Tim Collective Dialogues menemukan bahwa sekelompok kecil sangat menentang pembatasan asisten AI dalam menjawab pertanyaan-pertanyaan tertentu dalam setiap sesi, yang menyebabkan ketidaksepakatan dengan hasil pemungutan suara mayoritas.
Menyeimbangkan konsensus dan mewakili beragam pendapat merupakan tantangan dalam mencapai hasil tunggal, menurut OpenAI. Tim Inclusive.AI mengeksplorasi mekanisme pemungutan suara, dan menemukan bahwa metode yang mencerminkan perasaan kuat masyarakat dan memastikan partisipasi yang setara dianggap lebih demokratis dan adil.
Terkait kekhawatiran tentang masa depan AI dalam tata kelola, laporan tersebut menyatakan bahwa beberapa peserta merasa cemas tentang penggunaan AI dalam penulisan kebijakan, dan menginginkan transparansi dalam penggunaannya. Namun, setelah melalui diskusi, kumpulan tersebut mencatat adanya peningkatan harapan terhadap kemampuan masyarakat dalam membimbing AI.
OpenAI mengatakan bahawa mereka ingin menerapkan idea dari peserta awam, dan akan membentuk tim Collective Alignment baru yang terdiri dari peneliti dan insinyur untuk menciptakan sistem pengumpulan dan pengkodean masukan masyarakat mengenai perilaku model-model mereka ke dalam produk dan layanan OpenAI.
Majalah: Scam AI 'penculikan', robot koki senilai $20,000, perang plagiarisme AI Ackman: AI Eye
