Ciri-ciri neural yang baru ditemui dalam sistem kecerdasan buatan (AI) boleh menjadi kunci untuk menyelesaikan halusinasi AI, salah satu cabaran terbesar dalam industri ini.
"Halusinasi" AI adalah hasil tidak disengaja daripada melatih model bahasa besar untuk bertindak sebagai sistem AI generatif. Halusinasi berlaku apabila model AI menghasilkan maklumat baru, biasanya yang tidak betul, yang tidak terkandung dalam set data.
Bagaimanapun, ciri-ciri neural yang baru ditemui boleh membantu menyelesaikan masalah halusinasi AI, menurut Dario Amodei, salah seorang pengasas dan CEO Anthropic.
Amodei berkata semasa ucapan di Viva Tech Paris 2024:
"Sistem AI moden mempunyai beratus-ratus juta neuron... Kami menemui 30 juta ciri dalam model kami. Ciri-ciri untuk kerentanan keselamatan atau prasangka terhadap kumpulan tertentu... Kami kini dapat campur tangan dan mengubahnya."
Cabaran dengan halusinasi adalah protokol AI tidak tahu outputnya tidak betul. Walau bagaimanapun, ciri-ciri yang baru ditemui boleh menjadikan halusinasi AI sesuatu yang sudah berlalu, jelas Amodei.
"Mengurangkan halusinasi kecerdasan buatan adalah antara manfaat utama penemuan baru ini."
Anthropic telah menjalankan penyelidikan mengenai kesan mengubah ciri-ciri dalaman pada pembantu AI mereka untuk mengubah tingkah laku AI tersebut. Satu ciri tertentu mencipta model demo yang membuat AI "berfokus dengan intensiti pada Jambatan Golden Gate." Anthropic berkata dalam pos X pada 23 Mei ini:
"Kenyataan bahawa kami dapat mencari dan mengubah ciri-ciri ini dalam Claude membuat kami lebih yakin bahawa kami mula memahami bagaimana model bahasa besar benar-benar berfungsi."
Anthropic, sebuah firma pembangunan AI terkemuka, melancarkan chatbot AI mereka, Claude, di Eropah pada awal Mei. Sejak 14 Mei, pembantu AI ini telah tersedia melalui aplikasi web dan aplikasi iOS dalam beberapa bahasa Eropah, termasuk Perancis, Jerman, Sepanyol, dan Itali.
Berkaitan: LVMH memperkukuhkan manusia dengan AI, bukan menggantikan mereka
Pembangunan kecerdasan buatan akan bergantung pada bakat, bukan data: Amodei
Kekurangan data telah menjadi halangan utama dalam pembangunan AI.
Bagaimanapun, berkat penciptaan set data sintetik, cabaran terbesar pada masa kini adalah kekurangan bakat pembangun, bukan jumlah data. Amodei berkata:
"Data tidak akan menjadi halangan kerana beberapa firma mula mencipta data sintetik... Kemajuan AI akan bergantung terutamanya pada bakat..."
Amodei mencatatkan bahawa data sintetik menjanjikan skalabiliti AI, tetapi nisbah data sintetik kepada data dunia nyata tidak boleh tak terhingga, kerana ia akan menghasilkan set data sintetik yang lebih lemah dan tidak realistik.
Industri AI telah menarik minat pelabur yang semakin meningkat sejak awal 2024. Pada 27 Mei, syarikat Elon Musk mengumpulkan $6 bilion dalam rundingan Siri B. Pembiayaan ini bertujuan untuk menjadikan chatbot Grok mereka sebagai pesaing bagi ChatGPT menjelang akhir 2024.
Majalah: Syarikat streaming Hong Kong membeli $100 juta kripto, Worldcoin dikenakan sekatan: Asia Express
