Riset TrendAI™ mengungkapkan bahwa tekanan untuk menerapkan AI demi kecepatan bisnis melampaui kemampuan kontrol, visibilitas, dan akuntabilitas.

HONG KONG SAR – Media OutReach Newswire – TrendAI™, pemimpin keamanan AI untuk perusahaan dari Trend Micro Incorporated (TYO: 4704; TSE: 4704), telah menerbitkan riset baru yang mengungkapkan bahwa organisasi di seluruh dunia tetap memacu penerapan AI meskipun ada risiko keamanan dan kepatuhan yang diketahui.

Studi global baru terhadap 3.700 pengambil keputusan di bidang bisnis dan TI menemukan bahwa 67% merasa tertekan untuk menyetujui AI meskipun ada kekhawatiran keamanan, dengan satu dari tujuh responden menggambarkan kekhawatiran tersebut sebagai “sangat ekstrem” tetapi diabaikan demi mengimbangi para pesaing dan permintaan internal.

Rachel Jin, Chief Platform & Business Officer, Head of TrendAI™: “Organisasi tidak kekurangan kesadaran akan risiko, mereka kekurangan kondisi untuk mengelolanya. Ketika penerapan didorong oleh tekanan persaingan, bukan oleh kematangan tata kelola, Anda menciptakan situasi di mana AI tertanam ke dalam sistem kritis tanpa kendali yang diperlukan untuk mengelolanya dengan aman. Riset ini memperkuat fokus kami untuk membantu organisasi mencapai hasil bisnis yang solid dengan AI sambil tetap mengelola risiko bisnis.”

Risiko dari penerapan AI yang didorong tekanan ini diperburuk oleh ketidakkonsistenan tata kelola dan ketidakjelasan tanggung jawab atas risiko AI yang semakin meluas. Hal yang sama berlaku untuk tim keamanan yang bekerja secara reaktif terhadap keputusan penerapan AI dari atas ke bawah, yang sering kali mengarah pada jalan pintas (workaround) dan meningkatnya penggunaan alat AI yang tidak sah atau “bayangan” (shadow AI).

Riset ancaman terbaru dari TrendAI™ memperkuat pergeseran ini, yang menunjukkan bagaimana para penyerang sudah menggunakan AI untuk mengotomatiskan pengintaian (reconnaissance), mempercepat kampanye phishing, dan menurunkan hambatan masuk bagi kejahatan dunia maya, sehingga meningkatkan kecepatan dan skala serangan.

Adopsi AI melampaui kendali

Organisasi menerapkan AI lebih cepat daripada mereka dapat mengelola risiko yang terkait, sehingga menciptakan kesenjangan yang melebar antara ambisi dan pengawasan. 57% mengatakan AI berkembang lebih cepat daripada kemampuan mereka untuk mengamankannya, sementara lebih dari separuh (64%) melaporkan hanya memiliki keyakinan sedang dalam pemahaman mereka tentang kerangka hukum yang mengatur AI.

Kematangan tata kelola masih rendah. Hanya sekitar sepertiga (38%) organisasi yang memiliki kebijakan AI yang komprehensif, sementara banyak lainnya masih menyusunnya, dan 41% menyebutkan peraturan atau standar kepatuhan yang tidak jelas sebagai penghalang. Dalam praktiknya, AI dioperasionalkan sebelum aturan yang mengatur penggunaannya sepenuhnya ditetapkan.

Kepercayaan pada AI otonom masih belum pasti

Kepercayaan pada sistem otonom yang lebih canggih masih dalam tahap pematangan. Kurang dari setengah (48%) percaya bahwa AI agen (agentic AI) akan secara signifikan meningkatkan pertahanan siber dalam jangka pendek, dengan kekhawatiran yang terus berlanjut seputar akses data, penyalahgunaan, dan kurangnya pengawasan.

Data menunjukkan di mana kekhawatiran tersebut berada. Lebih dari empat dari sepuluh organisasi (44%) mengatakan bahwa agen AI yang mengakses data sensitif adalah risiko terbesar mereka. Lebih dari sepertiga (36%) memperingatkan bahwa perintah jahat (malicious prompts) dapat membahayakan keamanan, sementara satu dari tiga (33%) menunjuk pada permukaan serangan (attack surface) yang semakin besar bagi penjahat siber. Proporsi yang sama (33%) khawatir tentang penyalahgunaan status AI yang dipercaya dan risiko yang terkait dengan penerapan kode secara otonom.

Pada saat yang sama, hampir sepertiga (31%) mengakui bahwa mereka tidak memiliki kemampuan observasi atau audit atas sistem ini, sehingga menimbulkan pertanyaan serius tentang bagaimana organisasi dapat mengendalikan atau melakukan intervensi setelah agen diterapkan.

Sekitar 40% organisasi mendukung penerapan mekanisme “saklar pemutus” (kill switch) AI untuk mematikan sistem jika terjadi kegagalan atau penyalahgunaan, sementara hampir setengahnya masih belum yakin. Kurangnya konsensus ini menyoroti masalah yang lebih dalam. Organisasi bergerak menuju AI otonom tanpa kesepakatan tentang bagaimana mempertahankan kendali ketika hal itu paling dibutuhkan.

“AI agen (Agentic AI) membawa organisasi ke dalam kategori risiko baru,” tambah Rachel Jin. “Riset kami menunjukkan bahwa kekhawatiran sudah jelas, mulai dari paparan data sensitif hingga hilangnya pengawasan. Tanpa visibilitas dan kendali, organisasi menerapkan sistem yang tidak sepenuhnya mereka pahami atau kelola, dan risiko itu hanya akan meningkat kecuali ada tindakan yang diambil.”

Untuk membaca laporan lengkapnya, kunjungi: https://www.trendmicro.com/explore/trendai-global-ai-study/

https://www.trendaisecurity.com
https://www.linkedin.com/company/trendai-security
https://x.com/trendaisecurity
https://www.facebook.com/trendaisecurity/
https://www.instagram.com/trendaisecurity/

Tentang TrendAI™

TrendAI™, pemimpin global dalam keamanan AI, memberdayakan perusahaan untuk berinovasi tanpa rasa khawatir dengan mengamankan AI, cloud, jaringan, endpoint, dan data di seluruh permukaan serangan modern. Intinya adalah TrendAI Vision One™, sebuah platform keamanan siber terpadu yang memusatkan manajemen paparan risiko siber dan operasi keamanan guna melindungi seluruh siklus hidup AI, mulai dari infrastruktur hingga model hingga pengguna.

Platform ini didukung oleh intelijen ancaman dan wawasan kelas dunia yang melindungi organisasi dari ratusan juta ancaman setiap hari. Dengan 6.000 pakar TrendAI™ yang tersebar di 75 negara, TrendAI™ memberdayakan para pemimpin keamanan untuk selalu selangkah lebih maju dari ancaman, mendorong hasil keamanan yang proaktif di seluruh permukaan serangan. Hal ini mencakup lingkungan penting seperti AWS, Google, dan Microsoft.