Namun, tidak sedikit yang menyalahgunakan teknologi tersebut. Ada yang mengedit secara berlebihan hingga menghasilkan gambar tak pantas dan melanggar privasi orang lain.
Kementerian Komunikasi dan Digital (Komdigi) merespons fenomena tersebut dengan mengimbau warganet agar lebih berhati-hati menggunakan teknologi AI serta tetap menjunjung norma etika.
"Jadi itu etika. (Saat ini masih berlandaskan) surat edaran etika AI itu yang ada yang diterbitkan tahun lalu ya," ungkap Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi, Alexander Sabar di Jakarta, Rabu (17/9/2025).
Merespons fenomena ini, Komdigi meminta platform digital global agar menyediakan fitur pengecekan konten AI (content verification) secara gratis.
Dengan demikian, publik bisa lebih mudah mengetahui apakah sebuah foto atau video adalah asli atau hasil editan AI.
"Gini, masalah AI ini kan masih berproses nih. Kita lagi menyiapkan aturan baru untuk roadmap-nya.Nanti, lebih lanjutnya nanti kita coba lihat peraturannya seperti apa.Tapi, panduan kita tetap dalam pengawasan Undang-Undang ITE," ucapnya.
Namun, Sabar mengingatkan bahwa penyalahgunaan teknologi AI tetap bisa diproses hukum melalui UU ITE.
"Kalau konten itu mau pake AI, mau pake yang asli, ada pelanggaran terhadap Undang-Undang ITE, kita akan proses," ujar Sabar.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, menyampaikan bahwa pemerintah tengah menyiapkan dua rancangan Peraturan Presiden (Perpres) terkait kecerdasan buatan atau Artificial Intelligence (AI).
Perpres pertama berbentuk peta jalan AI nasional yang dituangkan dalam buku putih. Dokumen ini akan menjadi panduan utama dalam pengembangan, pemanfaatan, dan pengawasan teknologi AI di Indonesia.
Dengan adanya peta jalan ini, diharapkan arah pemanfaatan AI lebih terukur dan sesuai kebutuhan nasional.
"Soal Perpres AI, kita lagi merampungkan draft peta jalan AI nasional dan juga melakukan drafting untuk peraturan presiden. Ada dua ya, yang pertama untuk mengukuhkan semacam buku putih untuk peta jalan AI, lalu yang kedua mengatur tentang keselamatan dan keamanan dalam pemakaian AI," kata Nezar.
Sebagai penutup, fenomena maraknya penggunaan AI untuk mengedit foto, baik yang kreatif maupun yang disalahgunakan, menunjukkan pentingnya regulasi yang jelas sekaligus kesadaran etika dari masyarakat.
Dengan hadirnya dua Perpres yang tengah disiapkan pemerintah, diharapkan pemanfaatan AI di Indonesia dapat berjalan lebih aman, bertanggung jawab, dan memberikan manfaat positif tanpa merugikan pihak lain.
Penulis: Adella Haviza
Editor : Bahana.