SHNet, YOGYAKARTA – Makin terbukanya akses terhadap teknologi Generative Artificial Intelligence (GenAI) menandai masuknya manusia ke babak baru. Demokratisasi AI membuka berbagai peluang baru sekaligus membawa resiko serius.
Riset yang dilakukan oleh Safer Internet Lab (SAIL) menunjukkan bahwa teknologi AI berpotensi memperbesar penyebaran misinformasi yang mengancam demokrasi, mendorong penipuan daring yang merugikan ekonomi digital, bahkan memengaruhi geopolitik melalui praktik Foreign Information Manipulation and Intervention (FIMI) di kawasan Asia-Pasifik.
Sejalan dengan itu, penelitian dari Center for Digital Society (CfDS) juga menyoroti hal serupa mengenai risiko penggunaan AI dalam Pemilu 2024.
Beragam risiko yang dapat ditimbulkan teknologi AI perlu direspons dengan tanggap, baik dari sisi pembuat kebijakan melalui regulasi ketat, sisi perusahaan melalui pendekatan yang humanis, sisi masyarakat melalui pendidikan dan literasi digital, hingga kolaborasi antara ketiganya.
Menjawab tantangan tersebut, Centre for Strategic and International Studies (CSIS) melalui Safer Internet Lab (SAIL) bersama Center for Digital Society (CfDS) menyelenggarakan Information Resilience and Integrity Symposium (IRIS), sebuah forum akademik dan kebijakan internasional yang digelar pada 21 Agustus 2025 di Fakultas Ilmu Sosial dan Ilmu Politik Universitas Gadjah Mada (FISIPOL UGM).
Simposium ini dirancang untuk membahas bagaimana kawasan Asia-Pasifik dapat bersama menghadapi gelombang inovasi teknologi sekaligus menjaga integritas dan ketahanan ruang digital.
Acara IRIS 2025 ini dibuka oleh Prof. Wening Udasmoro, Wakil Rektor Universitas Gadjah Mada, dengan menekankan peran akademisi dalam menjembatani kebijakan, penelitian, dan pemahaman publik terkait GenAI.
Diskusi kemudian dilanjutkan oleh Dr. Yose Rizal Damuri, Direktur Eksekutif CSIS, yang memaparkan peluang sekaligus risiko GenAI di kawasan Asia-Pasifik. Menyusul hal tersebut, Meutya Viada Hafid, Menteri Komunikasi dan Urusan Digital (Komdigi) Indonesia, menyampaikan pidato kunci mengenai kesiapan kebijakan Indonesia dalam menghadapi tantangan GenAI.
Selanjutnya, acara dilanjutkan dengan kuliah umum oleh Prof. Ang Peng Hwa dari Nanyang Technological University, Singapura, yang mengulas potensi kerja sama regional dalam memperkuat resiliensi informasi.
Sesi berikutnya adalah strategic dialogue yang menghadirkan Wijaya Kusumawardhana, Staf Ahli Menteri Bidang Sosial, Ekonomi, dan Budaya, Komdigi, Dr. Maria Monica Wihardja, Visiting Fellow dan Co-Coordinator Media, Technology and Society Programme, ISEAS–Yusof Ishak Institute, serta Prof. Dr. Poppy Sulistyaning Winanti sebagai moderator.
Dalam pidatonya, Dr. Yose Rizal Damuri menekankan bahwa risiko dari teknologi AI mencakup penipuan finansial, manipulasi informasi asing, hingga ancaman terhadap privasi dan integritas demokrasi. Untuk menjawab tantangan ini, CSIS melalui SAIL, menyelenggarakan IRIS, sebuah platform lintas sektor yang menjembatani kajian akademis dengan kebijakan untuk mendukung rekomendasi berbasis data.
“Kita perlu mencari cara untuk menyeimbangkan risiko, sembari memaksimalkan manfaat [dari AI],” ujar Dr. Yose.
Menteri Komdigi Indonesia, Meutya Viada Hafid, menyoroti tingginya antusiasme masyarakat terhadap adaptasi AI di Indonesia. Pemerintah Indonesia pun berkomitmen untuk memanfaatkan reaksi positif ini sambil menavigasi risiko yang ada.
“Tugas kita adalah untuk memanfaatkan optimisme ini dengan bertanggung jawab,” ujar Meutya. Untuk itu, perlu pengembangan sumber daya manusia yang lebih baik. “Teknologi saja tidak dapat membangun masa depan, manusialah yang membangunnya,” tegas Meutya.
Sejalan dengan itu, Prof. Ang Peng Hwa menyoroti bagaimana teknologi AI tengah membentuk ulang masyarakat secara halus namun mendalam, mulai dari berkurangnya keragaman pengalaman budaya dan personal hingga meningkatnya ketergantungan yang melemahkan kapasitas berpikir kritis.
“AI telah terkonvergensi ke satu titik. Ini lah masalahnya dengan GenAI,” jelas Prof. Ang. Karena AI adalah mesin prediktif, ia mengumpul ke satu titik, menjadi satu angka, satu kata, satu gambar.
Sifat AI yang seperti ini berpotensi menimbulkan risiko terhadap keunikan pengalaman manusia. Prof. Ang menekankan perlunya pendekatan lintas sektor yang melibatkan pemerintah, bisnis, akademisi, masyarakat sipil, hingga kelompok keagamaan agar AI dapat mendukung ketahanan sosial.
Dalam sesi dialog strategis, para pembicara menanggapi perkembangan teknologi AI dengan kritis. Dr. Maria dari ISEAS–Yusof Ishak Institute menyoroti pentingnya pendekatan berbasis manusia (human-centric approach) dalam pengembangan dan regulasi AI.
“Teknologi itu netral. Teknologi tidak memiliki nilai. Kita lah yang memasukkan nilai ke dalam teknologi,” ujar Dr. Maria. Sejalan dengan ini, WIjaya, Staf Ahli Komdigi, menekankan pentingnya pengembangan manusia seiring dengan perkembangan teknologi.
“Ketika berbicara soal teknologi, alih-alih berpikir soal infrastruktur, kita perlu mengembangkan manusianya. Isunya saat ini adalah bagaimana kita dapat mendahulukan manusia sebelum teknologi,” jelas Wijaya.
Selain sesi pleno, IRIS juga menghadirkan empat panel tematik mengenai isu-isu mendesak: penipuan finansial berbasis GenAI, pengawasan dan privasi dalam pembangunan digital, respons regional terhadap manipulasi informasi asing, serta peran informasi dalam menjaga ketahanan demokrasi.
Melalui diskusi ini, IRIS berupaya meningkatkan kesadaran publik atas peluang dan risiko GenAI, memperkuat dialog lintas sektor, serta mendiseminasikan hasil riset SAIL dan para mitranya sebagai rujukan penting bagi pembuat kebijakan. (Non)
