Media sosial Meta, sebelum ini dikenali sebagai Facebook, akan menyertakan watermark tak kelihatan dalam semua imej yang dihasilkan menggunakan kecerdasan buatan (AI) sebagai langkah untuk mencegah penyalahgunaan teknologi tersebut.
Dalam laporan pada 6 Disember yang menerangkan kemas kini untuk Meta AI - pembantu maya Meta - syarikat itu mendedahkan bahawa mereka akan segera menambah watermark tak kelihatan ke dalam semua imej yang dihasilkan oleh AI dengan menggunakan "pengalaman bayangkan dengan Meta AI". Seperti chatbot AI lain, Meta AI menghasilkan imej dan kandungan berdasarkan arahan pengguna. Namun, Meta bertujuan untuk menghalang pihak yang jahat daripada melihat perkhidmatan ini sebagai alat lain untuk menipu orang awam.
Seperti chatbot AI lain, Meta AI menghasilkan imej dan kandungan berdasarkan arahan pengguna. Ciri watermark terkini akan menjadikan lebih sukar bagi pencipta untuk mengeluarkan watermark tersebut.
"Dalam beberapa minggu akan datang, kami akan menambah watermark tak kelihatan ke dalam pengalaman imej dengan Meta AI untuk meningkatkan kejelasan dan kebolehkesanan."
Meta mengatakan mereka akan menggunakan model pembelajaran mendalam untuk melampirkan watermark ke dalam imej yang dihasilkan dengan alat AI mereka, yang tidak dapat dilihat oleh mata manusia. Walau bagaimanapun, watermark tak kelihatan ini boleh dikesan dengan menggunakan model yang sesuai.
Berbeza dengan watermark tradisional, Meta mendakwa watermark AI mereka - yang dinamakan Bayangkan dengan Meta AI - "tahan terhadap manipulasi imej biasa seperti pemotongan, perubahan warna (kecerahan, kontras, dan sebagainya), tangkapan skrin, dan lain-lain." Walaupun perkhidmatan watermark ini akan diperkenalkan terlebih dahulu untuk imej yang dihasilkan melalui Meta AI, syarikat ini berancang untuk membawa ciri ini ke perkhidmatan Meta lain yang menggunakan imej yang dihasilkan oleh AI.
Dalam kemas kini terbarunya, Meta AI juga memperkenalkan ciri "bayangkan semula" untuk Facebook Messenger dan Instagram. Kemas kini ini membolehkan pengguna menghantar dan menerima imej yang dihasilkan oleh AI kepada satu sama lain. Akibatnya, kedua-dua perkhidmatan pesanan juga akan menerima ciri watermark tak kelihatan ini.
Berkaitan: Tom Hanks, MrBeast dan selebriti lain mengingatkan tentang penipuan AI deep fake
Perkhidmatan AI seperti Dall-E dan Midjourney sudah membenarkan penambahan watermark tradisional ke dalam kandungan yang dihasilkannya. Walau bagaimanapun, watermark seperti ini boleh dikeluarkan dengan hanya memotong tepi imej. Selain itu, alat AI tertentu boleh mengeluarkan watermark dari imej secara automatik, yang Meta AI dakwa tidak mungkin dilakukan dengan hasil keluarannya.
Sejak populariti alat AI generatif, ramai usahawan dan selebriti telah mengingatkan tentang kempen penipuan yang menggunakan kuasa AI. Penipu menggunakan alat yang mudah didapati untuk mencipta video, audio, dan imej palsu tokoh terkenal dan menyebarkannya di internet.
Pada bulan Mei, imej yang dihasilkan oleh AI yang menunjukkan letupan berhampiran Pentagon - ibu pejabat Jabatan Pertahanan Amerika Syarikat - menyebabkan pasaran saham jatuh seketika.
Contoh utama bahaya dalam sistem bayar-untuk-pengesahan: Akaun ini, yang memuat naik foto (sangat mungkin dihasilkan oleh AI) tentang cerita (palsu) tentang letupan di Pentagon, pada pandangan pertama kelihatan seperti saluran berita Bloomberg yang sah. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) 22 Mei 2023
Imej palsu seperti yang ditunjukkan di atas kemudiannya diambil dan disebarkan oleh media berita lain, menyebabkan kesan bola salji. Walau bagaimanapun, pihak berkuasa tempatan, termasuk Agensi Perlindungan Pentagon yang bertanggungjawab terhadap keselamatan bangunan tersebut, menyatakan mereka sedar tentang laporan yang beredar dan mengesahkan bahawa "tiada letupan atau insiden" berlaku.
@PFPAOfficial dan ACFD sedar tentang laporan media sosial yang beredar dalam talian tentang letupan berhampiran Pentagon. Tiada letupan atau insiden berlaku di atau berhampiran kawasan Pentagon, dan tiada bahaya atau risiko segera kepada orang awam. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) 22 Mei 2023
Pada bulan yang sama, kumpulan advokasi hak asasi manusia Amnesty International terpedaya dengan imej yang dihasilkan oleh AI yang menggambarkan kekejaman polis dan menggunakannya untuk menjalankan kempen menentang pihak berkuasa.
"Kami telah mengeluarkan imej-imej tersebut daripada pos media sosial, kerana kami tidak mahu kritikan terhadap penggunaan imej yang dihasilkan oleh AI mengalihkan tumpuan daripada mesej utama yang menyokong mangsa dan seruan mereka untuk keadilan di Colombia," kata Erika Guevara Rosas, pengarah untuk Amerika di Amnesty.
Majalah: Ketakutan dan keraguan ahli politik mendorong cadangan pengaturan kripto di AS