Penggunaan tanpa sempadan kecerdasan buatan dalam sistem kewangan boleh mengakibatkan hasil yang mengerikan, kata pengarang, ahli falsafah, dan profesor sejarah Yuval Noah Harari kepada penonton di Bank for International Settlements (BIS) Innovation Summit. Institusi yang kukuh diperlukan untuk mengawal kecerdasan buatan, katanya.

Sistem kewangan mencipta kepercayaan, Harari berhujah. Wang, bon, dan peranti kewangan lain membolehkan jutaan orang asing bekerjasama untuk mencapai matlamat bersama. Tetapi tiada usaha yang dilakukan untuk menjadikan peraturan kewangan difahami "oleh manusia," katanya kata:

"Mungkin hanya 1% daripada populasi yang memahami bagaimana sistem kewangan berfungsi. Apa yang akan berlaku jika jumlah itu turun menjadi sifar?"

Harari mengutip krisis kewangan 2007-2008 sebagai hasil daripada inovasi kewangan yang tidak difahami. Regulator tidak dapat memahami produk kewangan baru dengan cukup baik untuk mengawalnya.

Berkaitan: AI terdesentralisasi adalah kunci kepada algoritma AI yang lebih tidak berat sebelah - Masa co-founder

AI adalah bentuk kecerdasan asing yang hanya berada di awal evolusinya. Ia tidak berfikir seperti manusia dan boleh dengan mudah mencipta peranti kewangan yang melampaui imaginasi manusia, mengalihkan kuasa dari ahli politik dan regulator kepada algoritma. Hubungan kepercayaan akan dibina antara sistem AI bukan antara manusia, dan dalam krisis kewangan, ahli politik dan regulator akan terpaksa mempercayai AI.

Yuval Noah Harari bercakap kepada penonton di BIS Innovation Summit secara atas talian. Sumber: YouTube

Gangguan hubungan kepercayaan itu boleh menyebabkan ketidakstabilan sosial. Kepercayaan kepada ahli politik dan institusi sudah semakin menurun, catat Harari, menambahkan:

"Kita perlu mencegah AI daripada menjadi sesuatu yang sama sekali tidak dapat difahami. [...] Kita perlu keupayaan untuk memahaminya dan mengawalnya."

Pengawalan tidak sepatutnya diberikan kepada orang jenius atau "pemimpin karismatik," teruskan Harari. Hanya institusi yang boleh "mengekalkan manusia dalam proses."

Sumber: Yuval Noah Harari

Walau bagaimanapun, terdapat bahaya. Inovasi yang mengubah dunia sering kali berjaya hanya selepas beberapa percubaan yang gagal untuk menggunakannya. Harari menggambarkan imperialisme, komunisme, dan Nazisme sebagai percubaan yang gagal untuk membina masyarakat yang terindustrialisasi - dengan puluhan juta mangsa. Sementara itu, AI mampu mencipta idea tentang bagaimana menggunakannya.

Harari berkata regulator perlu memberi tumpuan kepada membina lebih banyak kepercayaan antara manusia untuk memastikan sistem kewangan masa depan stabil dan mesra manusia.

Majalah: Apa yang dimaksudkan dengan Web3?