JAKARTA – Perkembangan teknologi kecerdasan buatan (AI) generatif dalam pembuatan video semakin canggih, namun juga menimbulkan kekhawatiran terkait penyalahgunaan. Sebuah video yang viral di media sosial, menampilkan jembatan gantung putus di Bali, ternyata 99,2% merupakan hasil rekayasa AI generatif, dilansir dari news.detik.com. Video tersebut telah ditonton lebih dari 70 juta kali.
Menurut analisis Hive Moderation, alat pendeteksi video AI, video jembatan putus tersebut kemungkinan besar adalah palsu. AI generatif sendiri mampu menciptakan konten baru berdasarkan instruksi, termasuk video yang sangat mirip dengan aslinya. Teknik manipulasi ini dikenal sebagai deepfake.
Pakar keamanan siber dan forensik digital, Alfons Tanujaya, menyatakan bahwa video buatan AI akan semakin sulit dibedakan dari video asli. “Hasil video generated AI ini akan makin sempurna dan makin sulit diidentifikasi dan dibedakan dari konten yang bukan AI. Akan makin sulit, itu polanya, itu yang perlu kita sadari,” ungkap Alfons, seperti dikutip news.detik.com.
Firman Kurniawan, pakar komunikasi digital Universitas Indonesia, menambahkan bahwa alat pendeteksi AI juga bisa keliru, terkadang mengidentifikasi video asli sebagai buatan AI. Oleh karena itu, ia menyarankan untuk mengombinasikan berbagai alat pendeteksi saat memeriksa keaslian sebuah konten.
Ada beberapa cara untuk mengenali video buatan AI. Pertama, periksa detail video dengan cermat. Detail kecil seperti jari, telinga, atau aksesori seringkali tampak tidak wajar atau tidak konsisten dalam video AI. Contohnya, pada video jembatan gantung, lengan baju seseorang terlihat berubah-ubah.
Kedua, perhatikan gerakan dalam video. Gerakan yang tidak wajar atau tidak realistis bisa menjadi petunjuk bahwa video tersebut buatan AI. Dalam video jembatan gantung, air terjun di bagian kanan video awalnya tidak bergerak, kemudian baru bergerak setelah beberapa detik.
Ketiga, lakukan penelusuran melalui *reverse image search* untuk mengetahui sumber asli video dan kapan pertama kali diunggah. Cara ini dapat membantu memverifikasi apakah video tersebut sudah ditandai sebagai buatan AI atau bukan.
Alfons Tanujaya mengimbau pengguna media sosial untuk tidak mudah membagikan konten yang belum terverifikasi kebenarannya. “Kalau itu tidak ada di media mainstream dan Anda ragukan, saya sarankan jangan di-forward. Kenapa? Karena kalau Anda salah forward konten, lalu Anda forward konten yang melanggar hukum, Anda bisa kena konsekuensi hukum,” jelasnya.
Alfons juga menekankan pentingnya pengawasan pemerintah untuk meminimalisasi penyalahgunaan AI. Ia menyebutkan bahwa pemerintah dapat menggunakan undang-undang terkait yang sudah ada, seperti UU ITE, untuk menindak pelanggaran etika atau tindakan eksploitatif yang menggunakan AI.
Firman Kurniawan mengingatkan agar pengawasan pemerintah tidak menghambat perkembangan AI yang mendukung inovasi dan aktivitas manusia. Ia menekankan perlunya mempelajari potensi kerugian atau bahaya yang mungkin ditimbulkan oleh AI.
Menurut Firman, penting untuk menemukan porsi yang tepat agar tidak ketinggalan dalam memanfaatkan AI, namun juga tetap waspada terhadap potensi penyalahgunaannya. Hal ini, menurutnya, penting untuk dipelajari agar AI tidak merugikan atau membahayakan manusia.
