MediaUmat – Direktur Information and Network Security Institute (INS) M. Yanuar menyatakan dalam sistem yang kapitalistik, penggunaan kecerdasan buatan (AI) untuk kebaikan ataupun keburukan menjadi lebih bebas.
“Sekarang ini ketika kita hidup di dalam sistem yang kapitalistik ya, di mana kebebasan itu adalah asasnya, untung rugi itu adalah standar hidupnya, maka AI ini dalam penggunaannya menjadi lebih bebas digunakan bisa dalam kebaikan atau keburukan,” ujarnya dalam Kabar Petang: Real Atau AI? di kanal YouTube Khilafah News, Rabu, (10/12/2025).
“Bahkan bisa jadi dilegalisasi dan tidak akan diskriminalisasi ketika AI ini digunakan dalam keburukan ataupun kebaikan,” kata Yanuar.
Deepfake
Ia pun mencontohkan penggunaan AI untuk keburukan dengan memproduksi (generate) konten-konton hoaks yang sangat meyakinkan dengan teknik deepfake yakni memanipulasi atau merekayasa gambar, video, atau suara seseorang sehingga tampak sangat nyata, padahal sebenarnya tidak pernah terjadi.
“Beberapa bulan lalu, kita sempat melihat iklan semacam itu (sosok ustadz seolah-olah mempromosikan judi online) dan bertanya-tanya, kok bisa ustadz mempromosikan judi online? Ternyata, sosok tersebut dibuat menggunakan teknologi AI dan teknik deepfake,” ujarnya.
Kesulitan membedakan mana gambar/video nyata atau deepfake, menurutnya, disebabkan masyarakat tidak jeli dan literasi digital rendah sehingga dengan mudah percaya. “Ini memang sangat berbahaya,” tegasnya.
Oleh karena itu, diperlukan peningkatan literasi digital di tengah masyarakat. Tanpa literasi digital yang baik, jelas Yanuar, risiko masyarakat terpapar hoaks akan semakin besar.
Menurutnya, untuk mengurangi kerentanan masyarakat Indonesia terhadap konten berbasis AI, tidak cukup hanya mengandalkan literasi digital. Diperlukan pula penerapan etika AI serta regulasi yang jelas dalam penggunaan teknologi AI.
“Jadi, tidak cukup hanya literasi digital, tapi perlu tadi komponen-komponen lainnya seperti etika AI, kemudian regulasi AI-nya,” pungkasnya.[] Muhammad Nur
Dapatkan update berita terbaru melalui saluran Whatsapp Mediaumat