Kasus deepfake di kawasan Asia Pasifik mengalami peningkatan sebesar 1.530% antara tahun 2022 dam 2023. Studi FICO pada tahun 2023 menunjukkan bahwa penipuan keuangan (financial fraud) di Indonesia masih menjadi permasalahan utama. Berdasarkan studi tersebut, diketahui 64% masyarakat pernah mengalami percobaan penipuan dan 36% khawatir terhadap pencurian identitas.

Ludy Arlianto, Kepala Grup Inovasi Keuangan Digital OJK, mengungkapkan blueprint Transformasi Digital Perbankan nasional menegaskan risiko penyalahgunaan teknologi, termasuk deepfake, yang dapat digunakan untuk mengelabui proses verifikasi Electronic-Know Your Customer (eKYC), pemalsuan identitas, serta membahayakan keamanan dan privasi konsumen. Oleh karena itu, diperlukan strategi manajemen risiko yang komprehensif untuk mendeteksi, mencegah, dan memitigasi berbagai ancaman siber, khususnya deepfake.

OJK juga telah menerbitkan Surat Edaran Otoritas Jasa Keuangan (SEOJK) No. 29 Tahun 2022 tentang Ketahanan dan Keamanan Siber serta pedoman strategi anti-fraud bagi pelaku inovasi teknologi sektor keuangan. Selain itu, dengan menggandeng AFTECH, OJK juga telah merancang kode etik AI dan dalam waktu dekat akan merilis Cybersecurity Guideline khusus untuk industri Inovasi Teknologi Sektor Keuangan (ITSK).

Advance.AI dan OJK dan AFTECH berupaya membangun kolaborasi antara pelaku industri, regulator, dan penyedia teknologi. "Dengan memahami tantangan yang ada, kita dapat memanfaatkan kemajuan dan inovasi AI tidak hanya untuk memitigasi ancaman deepfak , tetapi juga untuk memperkuat keamanan, transparansi, dan kepercayaan dalam ekosistem fintech serta layanan keuangan digital di Indonesia," tambah Aries Setiadi, Direktur Eksekutif AFTECH dalam acara diskusi yang bertajuk Deepfake and the Challenge of Trust: Ensuring Transparency in the Digital Era and Evaluating AI as a Risk or Opportunity”

Managing Director Advance.AI, Anggraini Rahayu menambahkan bahwa kemajuan dalam AI-Generated Content (AIGC) dan ancaman teknologi deepfake terus berkembang pesat. Sekarang ini, mitigasi ancaman deepfake terus menjadi salah satu tantangan yang cukup krusial di bidang keamanan identitas digital.” , memaparkan. “Di Advance.AI, kami mengedepankan sistem pencegahan dan deteksi berlapis yang mencakup autentikasi biometrik berbasis AI, deteksi penipuan berbasis machine-learning , serta liveness detection untuk menolong institusi keuangan supaya dap at lebih efektif dalam mengidentifikasi dan mencegah fraud , serta meningkatkan transparansi dan keamanan dalam proses verifikasi identitas digital,” jelasnya.(*)