Konten yang dihasilkan oleh AI, termasuk deepfake dan audio palsu, telah memburamkan batas antara kenyataan dan fabrikasi, menyebabkan kebingungan dan manipulasi yang luas. Para ahli seperti Yannick Myson advokat untuk menyematkan verifikasi pada tahap pembuatan konten dan menerapkan sistem verifikasi terdesentralisasi untuk memastikan keaslian.
Disinformasi dan Bahayanya
Tahun 2024 menjadi peringatan yang jelas tentang bahaya yang mungkin ditimbulkan oleh kecerdasan buatan (AI) jika tidak ada langkah perlindungan yang diterapkan. Di seluruh dunia, dari latihan demokrasi besar-besaran di India hingga iklim politik yang tegang di Taiwan, kampanye disinformasi yang dihasilkan oleh AI meninggalkan jejaknya.
Di Taiwan, pembaca berita deepfake mengaburkan batas antara kenyataan dan rekayasa, sementara di Amerika Serikat, audio palsu Presiden Biden yang diduga mendorong Demokrat New Hampshire untuk tidak memberikan suara menyoroti betapa mudahnya AI dapat digunakan sebagai senjata untuk manipulasi politik. Volume dan kecanggihan media sintetis ini telah membuat banyak orang merasa terombang-ambing dalam lautan ketidakpastian, berjuang untuk membedakan fakta dari fiksi.
Namun, beberapa ahli, seperti Yannick Myson, pendiri dan CEO Swarm Network, berpendapat bahwa masalah ini lebih dalam daripada manipulasi pemilu. Dia menyebutkan psikosisi yang diinduksi AI, fenomena mengganggu di mana orang mengembangkan delusi megah, yang beberapa studi kaitkan dengan interaksi yang berkepanjangan dengan chatbot AI. Biaya dari psikosisi yang diinduksi AI ini sangat besar; beberapa telah kehilangan pekerjaan sementara yang lain berakhir dalam perawatan psikiatri.
“Justru seperti deepfake memanfaatkan jalur pemrosesan visual kita, psikosis AI memanfaatkan kerentanan psikologis kita, dengan chatbot berfungsi sebagai ruang gema sempurna yang memvalidasi dan memperkuat pemikiran delusional,” kata Myson.
Solusi Terpusat vs. Terdesentralisasi
Myson percaya bahwa langkah-langkah reaktif saat ini, seperti inisiatif pemeriksaan fakta yang seadanya, tidak cukup untuk melawan masalah yang semakin meningkat ini. "Apa yang disadari industri adalah bahwa pemeriksaan fakta seadanya tidak dapat mengikuti kecepatan media sintetis atau manipulasi psikologis dari sistem AI," tegasnya.
Solusinya, yang terwujud dalam Swarm Network, adalah solusi proaktif: memasukkan verifikasi secara skala. Ini melibatkan penetapan asal-usul pada titik pembuatan konten, memastikan bahwa asal informasi digital dapat dilacak dan diautentikasi. Selanjutnya, Myson mengadvokasi sistem verifikasi terdesentralisasi, di mana informasi diperiksa silang dan divalidasi saat menyebar di seluruh ruang digital.
Visi tentang "infrastruktur kebenaran" yang kuat ini sejalan dengan kekhawatiran yang semakin meningkat di dalam industri AI. Seiring teknologi terus berkembang dengan cepat, implikasi etis dan sosial dari penyalahgunaannya menjadi semakin jelas. Erosi kepercayaan terhadap informasi digital, yang dipicu oleh kebohongan yang dihasilkan oleh AI yang canggih, mengancam proses demokrasi, kohesi sosial, dan bahkan kesejahteraan mental individu.
Untuk mengatasi ini, beberapa orang telah advokat untuk respons regulasi, mengutip contoh-contoh masa lalu ketika ini terbukti menjadi alat vital dalam melindungi pengguna dari risiko potensial yang terkait dengan teknologi yang muncul. Namun, para kritikus memperingatkan bahwa ini bisa memiliki efek yang tidak diinginkan dalam membatasi inovasi, sebuah konten yang tampaknya disetujui oleh Myson.
“Regulasi bisa membantu, tetapi hanya jika menghindari jebakan memusatkan kebenaran. Kami telah melihat pemerintah menggunakan ‘undang-undang informasi salah’ untuk membungkam debat,” kata CEO Swarm Network.
Untuk mendukung pernyataan ini, Myson menunjuk pada bagaimana birokrat UE dilaporkan menggunakan (EU) Undang-Undang Layanan Digital (DSA) Uni Eropa, yang mewajibkan penghapusan konten "berbahaya" yang didefinisikan secara luas, sebagai "alat untuk membatasi diskusi terbuka di seluruh dunia." Myson berargumen bahwa Undang-Undang AI UE juga menciptakan masalah serupa.
Alih-alih memberlakukan undang-undang seperti DSA atau AI Act, Myson justru menganjurkan untuk mewajibkan transparansi, pelabelan yang jelas dari media sintetis, dan standar asal terbuka seperti C2PA. "Aturan harus menegakkan bukti, bukan opini," katanya.
Masa Depan Verifikasi
Menurut CEO, platform media sosial besar seperti Meta dan TikTok menyadari hal ini dan sejak itu telah beralih ke pendekatan yang lebih terdesentralisasi untuk verifikasi fakta.
“Perubahan ini mewakili pengakuan mendasar bahwa pemeriksaan fakta terpusat menciptakan bottleneck dan titik kegagalan tunggal. Masa depan verifikasi konten bukanlah tentang memberikan kekuasaan kepada pemerintah atau perusahaan untuk memutuskan apa yang benar,” kata CEO.
Myson percaya bahwa pergeseran ini membuat solusi seperti yang ditawarkan oleh Swarm Network sangat penting. Alih-alih bergantung pada sejumlah kecil pemeriksa fakta terpusat, Swarm menggunakan "agen AI yang bekerja bersama peninjau manusia untuk membuat catatan yang dapat diaudit, di atas rantai, dari klaim yang diverifikasi."
Memang, agen AI dengan cepat berpindah dari konsep teoretis ke aplikasi praktis, secara fundamental mengubah cara berbagai sektor beroperasi. Manfaat utama dari agen ini adalah kemampuan mereka untuk mengotomatiskan dan mengoptimalkan. Mereka dapat memproses sejumlah besar data dalam waktu singkat, mengidentifikasi pola yang mungkin terlewatkan oleh manusia, dan beroperasi 24/7 tanpa kelelahan.
Namun, adopsi luas agen AI juga memperkenalkan tantangan kompleks yang perlu ditangani dengan hati-hati. Untuk mengatasi beberapa tantangan ini, Myson mengatakan pendekatan perusahaannya "adalah mengubah agen menjadi kolaborator yang transparan, bukan oracle yang tidak terkendali." Dia menambahkan:
"Dalam Swarm, agen-agen menguraikan informasi menjadi klaim kecil yang dapat diuji, mereka saling memeriksa, dan di mana nuansa diperlukan, manusia ikut campur. Setiap langkah dicatat dan diikat di rantai, sehingga penalaran mereka dapat diputar ulang. Singkatnya: tidak ada kotak hitam, hanya jejak yang dapat diverifikasi."
Sementara itu, Myson percaya bahwa, dalam lima tahun ke depan, pemeriksaan fakta akan berkembang dari proses manual menjadi fitur bawaan kehidupan digital, dan agen AI akan dievaluasi berdasarkan transparansi mereka, bukan hanya kecepatan. Visi ultimat adalah menjadikan kebenaran sebagai lapisan dasar dari internet.
"Dengan cara yang sama SSL menjadi default untuk lalu lintas web, protokol kebenaran akan menjadi default untuk informasi. Dan itulah cara kita mencegah AI membanjiri dunia dengan kebisingan," kata Myson.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Ahli AI: Protokol Kebenaran Bisa Menjadi SSL di Era Informasi
Konten yang dihasilkan oleh AI, termasuk deepfake dan audio palsu, telah memburamkan batas antara kenyataan dan fabrikasi, menyebabkan kebingungan dan manipulasi yang luas. Para ahli seperti Yannick Myson advokat untuk menyematkan verifikasi pada tahap pembuatan konten dan menerapkan sistem verifikasi terdesentralisasi untuk memastikan keaslian.
Disinformasi dan Bahayanya
Tahun 2024 menjadi peringatan yang jelas tentang bahaya yang mungkin ditimbulkan oleh kecerdasan buatan (AI) jika tidak ada langkah perlindungan yang diterapkan. Di seluruh dunia, dari latihan demokrasi besar-besaran di India hingga iklim politik yang tegang di Taiwan, kampanye disinformasi yang dihasilkan oleh AI meninggalkan jejaknya.
Di Taiwan, pembaca berita deepfake mengaburkan batas antara kenyataan dan rekayasa, sementara di Amerika Serikat, audio palsu Presiden Biden yang diduga mendorong Demokrat New Hampshire untuk tidak memberikan suara menyoroti betapa mudahnya AI dapat digunakan sebagai senjata untuk manipulasi politik. Volume dan kecanggihan media sintetis ini telah membuat banyak orang merasa terombang-ambing dalam lautan ketidakpastian, berjuang untuk membedakan fakta dari fiksi.
Namun, beberapa ahli, seperti Yannick Myson, pendiri dan CEO Swarm Network, berpendapat bahwa masalah ini lebih dalam daripada manipulasi pemilu. Dia menyebutkan psikosisi yang diinduksi AI, fenomena mengganggu di mana orang mengembangkan delusi megah, yang beberapa studi kaitkan dengan interaksi yang berkepanjangan dengan chatbot AI. Biaya dari psikosisi yang diinduksi AI ini sangat besar; beberapa telah kehilangan pekerjaan sementara yang lain berakhir dalam perawatan psikiatri.
“Justru seperti deepfake memanfaatkan jalur pemrosesan visual kita, psikosis AI memanfaatkan kerentanan psikologis kita, dengan chatbot berfungsi sebagai ruang gema sempurna yang memvalidasi dan memperkuat pemikiran delusional,” kata Myson.
Solusi Terpusat vs. Terdesentralisasi
Myson percaya bahwa langkah-langkah reaktif saat ini, seperti inisiatif pemeriksaan fakta yang seadanya, tidak cukup untuk melawan masalah yang semakin meningkat ini. "Apa yang disadari industri adalah bahwa pemeriksaan fakta seadanya tidak dapat mengikuti kecepatan media sintetis atau manipulasi psikologis dari sistem AI," tegasnya.
Solusinya, yang terwujud dalam Swarm Network, adalah solusi proaktif: memasukkan verifikasi secara skala. Ini melibatkan penetapan asal-usul pada titik pembuatan konten, memastikan bahwa asal informasi digital dapat dilacak dan diautentikasi. Selanjutnya, Myson mengadvokasi sistem verifikasi terdesentralisasi, di mana informasi diperiksa silang dan divalidasi saat menyebar di seluruh ruang digital.
Visi tentang "infrastruktur kebenaran" yang kuat ini sejalan dengan kekhawatiran yang semakin meningkat di dalam industri AI. Seiring teknologi terus berkembang dengan cepat, implikasi etis dan sosial dari penyalahgunaannya menjadi semakin jelas. Erosi kepercayaan terhadap informasi digital, yang dipicu oleh kebohongan yang dihasilkan oleh AI yang canggih, mengancam proses demokrasi, kohesi sosial, dan bahkan kesejahteraan mental individu.
Untuk mengatasi ini, beberapa orang telah advokat untuk respons regulasi, mengutip contoh-contoh masa lalu ketika ini terbukti menjadi alat vital dalam melindungi pengguna dari risiko potensial yang terkait dengan teknologi yang muncul. Namun, para kritikus memperingatkan bahwa ini bisa memiliki efek yang tidak diinginkan dalam membatasi inovasi, sebuah konten yang tampaknya disetujui oleh Myson.
“Regulasi bisa membantu, tetapi hanya jika menghindari jebakan memusatkan kebenaran. Kami telah melihat pemerintah menggunakan ‘undang-undang informasi salah’ untuk membungkam debat,” kata CEO Swarm Network.
Untuk mendukung pernyataan ini, Myson menunjuk pada bagaimana birokrat UE dilaporkan menggunakan (EU) Undang-Undang Layanan Digital (DSA) Uni Eropa, yang mewajibkan penghapusan konten "berbahaya" yang didefinisikan secara luas, sebagai "alat untuk membatasi diskusi terbuka di seluruh dunia." Myson berargumen bahwa Undang-Undang AI UE juga menciptakan masalah serupa.
Alih-alih memberlakukan undang-undang seperti DSA atau AI Act, Myson justru menganjurkan untuk mewajibkan transparansi, pelabelan yang jelas dari media sintetis, dan standar asal terbuka seperti C2PA. "Aturan harus menegakkan bukti, bukan opini," katanya.
Masa Depan Verifikasi
Menurut CEO, platform media sosial besar seperti Meta dan TikTok menyadari hal ini dan sejak itu telah beralih ke pendekatan yang lebih terdesentralisasi untuk verifikasi fakta.
“Perubahan ini mewakili pengakuan mendasar bahwa pemeriksaan fakta terpusat menciptakan bottleneck dan titik kegagalan tunggal. Masa depan verifikasi konten bukanlah tentang memberikan kekuasaan kepada pemerintah atau perusahaan untuk memutuskan apa yang benar,” kata CEO.
Myson percaya bahwa pergeseran ini membuat solusi seperti yang ditawarkan oleh Swarm Network sangat penting. Alih-alih bergantung pada sejumlah kecil pemeriksa fakta terpusat, Swarm menggunakan "agen AI yang bekerja bersama peninjau manusia untuk membuat catatan yang dapat diaudit, di atas rantai, dari klaim yang diverifikasi."
Memang, agen AI dengan cepat berpindah dari konsep teoretis ke aplikasi praktis, secara fundamental mengubah cara berbagai sektor beroperasi. Manfaat utama dari agen ini adalah kemampuan mereka untuk mengotomatiskan dan mengoptimalkan. Mereka dapat memproses sejumlah besar data dalam waktu singkat, mengidentifikasi pola yang mungkin terlewatkan oleh manusia, dan beroperasi 24/7 tanpa kelelahan.
Namun, adopsi luas agen AI juga memperkenalkan tantangan kompleks yang perlu ditangani dengan hati-hati. Untuk mengatasi beberapa tantangan ini, Myson mengatakan pendekatan perusahaannya "adalah mengubah agen menjadi kolaborator yang transparan, bukan oracle yang tidak terkendali." Dia menambahkan:
"Dalam Swarm, agen-agen menguraikan informasi menjadi klaim kecil yang dapat diuji, mereka saling memeriksa, dan di mana nuansa diperlukan, manusia ikut campur. Setiap langkah dicatat dan diikat di rantai, sehingga penalaran mereka dapat diputar ulang. Singkatnya: tidak ada kotak hitam, hanya jejak yang dapat diverifikasi."
Sementara itu, Myson percaya bahwa, dalam lima tahun ke depan, pemeriksaan fakta akan berkembang dari proses manual menjadi fitur bawaan kehidupan digital, dan agen AI akan dievaluasi berdasarkan transparansi mereka, bukan hanya kecepatan. Visi ultimat adalah menjadikan kebenaran sebagai lapisan dasar dari internet.
"Dengan cara yang sama SSL menjadi default untuk lalu lintas web, protokol kebenaran akan menjadi default untuk informasi. Dan itulah cara kita mencegah AI membanjiri dunia dengan kebisingan," kata Myson.