“Explainable AI sangat penting dan ini harus terintegrasi dengan AI model. Jika kita memasukkan Explainable AI maka akan memiliki pencarian tingkat tinggi, pembelajaran, perencanaan…”
Jakarta, Komite.id – Associate Professor in the Information Technology Department of the Indian Institute of Information Technology (IIIT), Allahabad, India Dr. Sonali AgarwalAssociate Professor in the Information Technology Department of the Indian Institute of Information Technology (IIIT), Allahabad, India Dr. Sonali Agarwa menjadi salah satu Keynote speaker dalam Websummit DataGovAI 2022 DAY 1 yang membahas tentang ‘Explainable AI (XAI): Current Status and Future Directions’ yang diartikan sebagai AI Penjelasan: Status Saat ini dan Arah di Masa Depan, Selasa (22/11/22).
Dalam konteks XAI, ada dua kata kunci penting yang harus diperhatikan, yakni: “interpretability” dan “explainability”. Mengutip laman resmi its.ac.id, Interpretabilitas adalah sejauh mana manusia dapat memahami penyebab keputusan. Semakin baik interpretabilitas model AI/ML, maka semakin mudah bagi seseorang untuk memahami mengapa keputusan atau prediksi tertentu telah dibuat.
Suatu model dapat diinterpretasikan lebih baik daripada model lain jika keputusannya lebih mudah dipahami manusia daripada keputusan dari model lain. Selanjutnya, apa yang dimaksud dengan “explanation” (penjelasan)? Penjelasan adalah jawaban atas pertanyaan mengapa.
Pada dasarnya, pemanfaatan teknologi AI dan ML saat ini telah banyak digunakan oleh berbagai perusahaan yang membutuhkan proses komputasi untuk menganalisis big data. Mengutip dari Forbes, Machine Learning adalah bidang keilmuan mengenai algoritma komputer yang berguna untuk meningkatkan kinerja program komputer secara otomatis berdasarkan data. Cara kerjanya adalah dengan mengumpulkan, memproses, dan membandingkan data (dari yang berukuran kecil hingga besar) untuk mencari pola dan menganalisis perbedaanya.
Sementara Artificial Intelligence atau AI adalah suatu bidang ilmu komputer yang dapat berguna untuk menciptakan mesin cerdas yang dapat bekerja layaknya manusia. Dalam hal ini tentu kegunaan Al sudah sangat familiar di kehidupan kita sehari-hari, mulai dari penggunaan Smartphone, Google Home, Siri, Smart TV dan teknologi lainnya.
Sonali Agarwal menjelaskan bahwa saat ini teknologi Machine Learning sudah ada mana-mana. Di dalam kehidupan kita, hampir seluruh aplikasi yang digunakan saat ini telah mengadopsi teknologi machine learning untuk proses bisnisnya. Seperti contoh Amazon echo, Amazon Website, Google Translate, dan lain sebagainya. Tak hanya ML, tentu kita juga telah menggunakan banyak aplikasi yang juga memanfaatkan AI.
Namun dalam hal ini, yang perlu digaris bawahi ialah bagaimana kita dapat meningkatkan Explainable AI model machine learning sehingga kita dapat memastikan kualitasnya. “Pada dasarnya, kami mencari integrasi Explainable dengan model machine learning, sehingga kami dapat memiliki penilaian kualitas yang lebih baik dan peningkatan model ini yang juga terjaga privasi, kesadaran dan akurasi nya,” ucap Sonali Agarwal.
Sonali Agarwal mengibaratkan sebuah kotak hitam AI yang menciptakan kebingungan dan keraguan. Hal ini dapat dikatakan bahwa, Explainable AI bertujuan untuk menciptakan serangkaian teknik yang menghasilkan model yang lebih dapat dijelaskan, dengan tetap mempertahankan pencarian, pembelajaran, perencanaan, kinerja penalaran, pengoptimalan, akurasi, presisi tingkat tinggi, dan memungkinkan pengguna manusia untuk memahami, mempercayai secara tepat, dan mengelola secara efektif generasi baru dari sistem AI.
“Kita bisa lihat, Explainable AI sangat penting dan ini harus terintegrasi dengan AI model. Jika kita memasukkan Explainable AI maka akan memiliki pencarian tingkat tinggi, pembelajaran, perencanaan, kinerja penalaran, pengoptimalan, akurasi, presisi tingkat tinggi, dan memungkinkan pengguna manusia untuk memahami,” jelasnya.
Sonali Agarwal menekankan bahwa Explainable menjadi sangat penting karena dapat penerimaan dan kepercayaan dari pengguna, hukum yang memiliki kesesuaian dengan standar etnis, keadilan, hak untuk diberitahu, dan keputusan yang dapat diperdebatkan. Selain itu, Explainable penting untuk mendukung banyak kekhawatiran dari orang lain. Semisal, kita bisa membantu untuk memahami kinerja metrik dengan baik, dan dapat membantu memahami masa depan.
Lebih lanjut, Sonali Agarwal menjelaskan ada beberapa tingkatan dalam diagram konseptual yang mewakili tiga derajat/tingkat kemampuan menjelaskan yang meliputi, kemampuan menjelaskan pra-pemodelan dibagi menjadi tiga bagian yakni data analysis, data summarization dan data transformation. Selanjutnya, mode yang dapat ditafsirkan mulai dari model inheren yang ditafsirkan dan hibrida model yang ditafsirkan, serta kemampuan menjelaskan pasca pemodelan.
Sonali Agarwal menuturkan bahwa ada 7 pilar dari Explainable AI (XAI) di antaranya, Transparency (Transparansi), Domain Sense (Pengertian Domain), Consistency (Konsisten), Parsimony (Penghematan), Generalizability (Generalisasi), Trust/Performance (Kepercayaan/Kinerja) dan Fidelity (Kesetiaan).
Untuk itu, XAI hadir dengan pendekatan memisahkan penjelasan dari model AI/ML, dengan Model-Agnostik (tidak tergantung pada model). Dengan metode XAI Model-Agnostik, fleksibilitas menjadi sangat tinggi. Metode interpretasi/penjelasan dapat bekerja dengan model AI/ML dengan algoritme apa pun, seperti Random Forest maupun Deep Learning.
Selanjutnya, Sonali Agarwal juga menjelaskan kerangka kerja untuk AI yang dijabarkan mencakup aspek-aspek sebagai berikut, pertama Evaluation: Human-in-the-loop dan Interface interaction, kedua Modeling: AI Connectionist Learning & AI Symbolic Reasoning, ketiga Attributes: Comprehensibility, Interestingness, persuasiveness dan Explanators: Textual, Pictorial, Rules, Dialogue, Mix-format.
ABDI mengapresiasi atas keikutsertaan Sonali Agarwal diberbagai kegiatan ABDI serta partisipasinya yang senantiasi menjadi author book ABDI, khususnya dalam buku ke-5 yang baru dirilis saat berlangsungnya acara Websummit DataGovAI 2022.
Diketahui, Sonali Agarwal sebagai Associate Professor in the Information Technology Department of the Indian Institute of Information Technology (IIIT), Allahabad, India yang berfokus pada Big Data, Stream Analytics, dan transformasi algoritme pembelajaran mesin konvensional untuk lingkungan Big Data.
