Jakarta, Komite.id – Adoption rate dari artificial intelligence untuk company mulai dari tahun 2017 sampai 2022 perkembangannya memang tidak begitu spiking, untuk di tahun 2023 sampai 2024 spiking, karena pada saat akhir 2022 ke awal 2023 ChatGPT launching Open Ai dan ChatGPT bisa diakses oleh personal use, sangat menunjukkan penggunaan Ai yang saat ini arahnya lebih ke Generative Ai, Generative Ai sangat besar bahkan di 2023 ke 2024 dari 33% ke 65% dan sangat cepat.
“AI banyak digunakan oleh teknologi-teknologi cyber security, tapi AI membantu untuk mengenhance real time advanced detection dan automated response. Ai digunakan untuk melakukan automated phishing, evolving malware, kemudian scam, fraud, nah ini bisa menggunakan Ai. AI menghasilkan email phishing dan deepfake yang realistis, sehingga memudahkan untuk menipu target, melewati langkah-langkah keamanan tradisional, dan melakukan penipuan. AI memungkinkan malware untuk berkembang dan menghindari deteksi dengan belajar dari pertahanan tradisional, sehingga lebih sulit untuk mengidentifikasi dan menghentikan serangan. AI menganalisis sejumlah besar data untuk mengidentifikasi anomali dan potensi ancaman secara real-time, mengurangi waktu respons dan mencegah pelanggaran. Sistem bertenaga AI mengotomatiskan respons terhadap ancaman yang terdeteksi, meminimalkan kesalahan manusia dan mengurangi kerusakan lebih cepat daripada upaya manual,” jelasnya.
Tantangan Masa Depan di Dunia AI
Pemanfaatan AI yang Etis
- Risiko bias dalam algoritme AI yang menyebabkan hasil yang tidak adil.
- Kurangnya regulasi global untuk mengatur pengembangan dan penggunaan AI.
Ancaman Berbasis AI
- Peningkatan penggunaan AI dalam serangan siber, seperti malware adaptif dan penipuan berbasis deepfake.
- Kesulitan dalam mendeteksi dan mengurangi eksploitasi zero-day yang digerakkan AI.
Ketergantungan pada AI
- Ketergantungan yang berlebihan pada AI dapat mengurangi keahlian manusia dalam keamanan siber.
- Sistem AI rentan terhadap serangan yang merugikan (misalnya, keracunan data).
Kekhawatiran Privasi Data
- Sejumlah besar data yang diperlukan untuk AI dapat menyebabkan pelanggaran privasi pengguna.
- Risiko penyalahgunaan data sensitif dalam pelatihan model AI.
Meningkatnya adopsi AI berarti meningkatnya jumlah aspek yang harus diatur. Konten yang dihasilkan AI, termasuk deepfake, menimbulkan ancaman signifikan terhadap privasi, karena kemiripan dan suara individu dapat direplikasi tanpa persetujuan. GenAI dapat digunakan dalam phishing, rekayasa sosial, dan pembuatan konten berbahaya, sehingga meningkatkan risiko serangan siber melalui identitas palsu atau penipuan. Memperkuat regulasi dan tata kelola penggunaan AI. Alat deteksi AI dapat mengidentifikasi konten palsu, dan edukasi publik tentang verifikasi sumber digital sangat penting untuk melawan kesalahan informasi.
