Salesforce State of IT: AI Agensial Tingkatkan Keamanan TI

Tantangan dan Peluang dalam Penerapan Agentic AI di Keamanan TI

Salesforce baru-baru ini merilis temuan dari State of IT terbarunya yang menyoroti peran agentic AI dalam keamanan TI, khususnya di Indonesia. Temuan ini memberikan wawasan tentang bagaimana para pemimpin TI melihat dampak agentic AI terhadap pengelolaan keamanan data. Dari survei yang melibatkan lebih dari 150 pemimpin TI, termasuk 75 profesional yang bertanggung jawab atas keamanan, privasi, dan kepatuhan regulasi, ditemukan bahwa sebagian besar percaya bahwa agentic AI dapat meningkatkan efisiensi dan keamanan sistem.

Salah satu temuan utama adalah bahwa 100% pemimpin keamanan TI yang disurvei mengidentifikasi setidaknya satu tantangan keamanan TI yang bisa ditingkatkan dengan agen AI. Namun, sebanyak 29% organisasi khawatir fondasi data mereka belum siap untuk memaksimalkan potensi agentic AI. Sementara itu, 57% organisasi tidak sepenuhnya yakin memiliki pengamanan (guardrail) yang cukup untuk menerapkan agen AI. Hal ini menunjukkan bahwa meskipun ada kesadaran akan manfaat AI, masih banyak tantangan teknis dan infrastruktur yang harus diatasi.

Manfaat Penggunaan Agentic AI dalam Keamanan TI

Agentic AI memiliki potensi besar dalam meningkatkan efisiensi dan produktivitas tim keamanan TI. Misalnya, alat seperti Salesforce Agentforce dapat membantu dalam deteksi ancaman, analisis data, serta audit kinerja model AI. Dengan kemampuan untuk memproses data secara cepat dan akurat, agentic AI bisa menjadi alat penting dalam menghadapi ancaman keamanan yang semakin kompleks.

Namun, ancaman keamanan TI yang berasal dari penggunaan AI juga menjadi perhatian serius. Menurut survei, 71% pemimpin TI khawatir ancaman berbasis AI akan mengalahkan sistem keamanan tradisional. Selain itu, masalah seperti data poisoning—yaitu manipulasi data pelatihan AI sehingga menghasilkan keputusan yang tidak akurat—juga menjadi ancaman nyata. Ini menunjukkan bahwa keamanan data tidak hanya tentang melindungi informasi, tetapi juga memastikan bahwa data yang digunakan untuk pelatihan AI tetap valid dan aman.

Kepatuhan dan Regulasi yang Meningkat

Kepatuhan terhadap aturan privasi global juga menjadi isu penting. Sebanyak 92% pemimpin keamanan TI percaya bahwa agen AI dapat membantu meningkatkan kepatuhan, tetapi 87% melihat tantangan kepatuhan yang muncul. Salah satu penyebabnya adalah regulasi yang semakin kompleks dan berubah-ubah. Hanya 40% pemimpin TI yang yakin bisa menerapkan agen AI sesuai regulasi, sementara 37% merasa belum siap menghadapi perubahan regulasi.

Kepercayaan dan Transparansi dalam Penggunaan AI

Kepercayaan terhadap hasil AI juga menjadi faktor penting. Dari survei tersebut, 45% pemimpin keamanan TI belum sepenuhnya yakin akan akurasi atau transparansi hasil AI mereka. Sementara itu, 52% pemimpin keamanan TI belum memberikan transparansi penuh tentang bagaimana data pelanggan dimanfaatkan dalam AI. Masih ada 45% yang belum menyempurnakan pedoman etis untuk penggunaan AI. Ini menunjukkan bahwa kepercayaan dan transparansi harus menjadi prioritas dalam penerapan AI.

Meski begitu, sebagian besar tim keamanan TI di Indonesia sudah mulai menggunakan agen AI dalam pekerjaan sehari-hari. Sebanyak 51% tim keamanan TI telah mengintegrasikan agen AI dalam operasional mereka, dan 84% pemimpin keamanan TI mengharapkan penggunaan agen AI dalam dua tahun ke depan. Ini menunjukkan bahwa meski ada tantangan, minat terhadap AI dalam keamanan TI tetap tinggi.

Pentingnya Tata Kelola Data

Dengan semakin banyaknya organisasi yang mengadopsi agentic AI, tata kelola data menjadi semakin penting. Meski 71% pemimpin TI mengklaim memiliki data berkualitas, hanya 57% yang yakin agen AI mereka beroperasi dengan izin dan protokol yang benar. Sementara itu, hanya 43% yang percaya sistem pengamanannya sudah memadai. Ini menunjukkan bahwa tata kelola data harus menjadi prioritas utama bagi organisasi yang ingin menerapkan AI secara bertanggung jawab, terlebih dengan regulasi yang semakin rumit.

NataraTech