HANOI, VIETNAM – Media OutReach Newswire – Kemunculan kecerdasan buatan (AI) yang kuat seperti DeepSeek mengubah dunia dengan kecepatan yang belum pernah terjadi sebelumnya, menimbulkan kecemasan yang mendalam tentang potensi bahayanya. Terkait hal tersebut, “AI godfather” Yoshua Bengio – Pemenang Grand Prize VinFuture 2024 – menyoroti kebutuhan mendesak akan upaya nasional dan global untuk mengatur AI dan memastikan manfaat yang adil bagi semua.
Pedang bermata dua
Sejak awal tahun 2025, kemunculan DeepSeek digambarkan sebagai momen “angsa hitam” yang menciptakan pergeseran yang mengubah lanskap AI hampir dalam semalam. Ini adalah sebuah panggilan untuk bangkit yang menunjukkan bahwa AI yang kuat dapat dicapai tanpa biaya yang terlalu tinggi, menantang model “uang sama dengan kemajuan” yang ada saat ini.
Terkait hal ini, Yoshua Bengio, yang sering dianggap sebagai “salah satu bapak AI modern”, memperingatkan bahwa terobosan dalam keterjangkauan AI dapat menimbulkan risiko yang serius.
“Jika model AI terbuka, seperti DeepSeek, didistribusikan sepenuhnya, teroris dapat memanfaatkannya untuk kampanye disinformasi, serangan siber, atau bahkan pengembangan senjata biologis,” katanya dalam sebuah wawancara dengan VinFuture Foundation. “Ini adalah pedang bermata dua karena meskipun sistem ini menjadi lebih tersedia, lebih murah, dan lebih kuat, sistem ini juga menurunkan penghalang untuk disalahgunakan.”
Yoshua Bengio, seorang pelopor dalam jaringan saraf dan algoritme deep learning, telah diakui dengan berbagai penghargaan internasional bergengsi, termasuk A.M. Turing Award 2018, Penghargaan Utama VinFuture 2024, dan yang terbaru, Penghargaan Ratu Elizabeth untuk Teknik 2025. Dia menekankan bahwa AI berkembang menuju otonomi yang lebih besar, dengan sistem yang mampu merencanakan dan bertindak untuk mencapai suatu tujuan. “Saat ini, AI sudah melampaui manusia dalam domain tertentu. AI dapat menguasai ratusan bahasa dan lulus ujian tingkat PhD di berbagai disiplin ilmu,” jelasnya.
Terlepas dari keterbatasan kemampuan perencanaan jangka panjang saat ini, perusahaan teknologi besar telah menggelontorkan miliaran dolar untuk mengembangkan agen AI yang mampu mengambil keputusan secara otonom dalam waktu yang lama. Meskipun hal ini menjanjikan peningkatan efisiensi, namun hal ini menimbulkan kekhawatiran akan terjadinya perpindahan pekerjaan dalam skala besar.
Di luar pergeseran ekonomi, ada masalah yang jauh lebih kritis – hilangnya kendali manusia atas AI. Dalam eksperimen terkontrol, beberapa sistem AI bahkan terlibat dalam perilaku menipu untuk mencegah dimatikan – sebuah tanda yang mengkhawatirkan dari kecenderungan mempertahankan diri.
“Ini mengkhawatirkan karena kita tidak ingin ada mesin yang akan bersaing dengan kita,” tegasnya.
Menurut Bengio, meskipun mereka belum cukup cerdas untuk menjadi ancaman besar, lintasan ini mengkhawatirkan.
“Dalam beberapa tahun, mereka mungkin akan menjadi lebih pintar dan kita harus mulai memperhatikannya sebelum terlambat,” Bengio memperingatkan.
Ditambah dengan risiko teknis, AI menghadirkan ancaman besar terhadap privasi dan kebebasan sipil. Baru-baru ini, laporan Keamanan AI Internasional yang komprehensif, yang diketuai oleh Yoshua Bengio dan disusun oleh 96 ahli dari 30 negara dan organisasi (termasuk PBB, Uni Eropa, dan OECD) untuk memandu para pembuat kebijakan tentang keamanan AI, mengungkapkan potensi penyalahgunaan AI yang terus meningkat dalam aktivitas jahat.
Bengio mencatat bahwa kemampuan AI untuk memproses data dalam jumlah besar dapat memberdayakan individu, perusahaan, atau pemerintah dengan kontrol yang belum pernah terjadi sebelumnya. Mengingat masa depan AI yang tidak pasti, dia berbagi bahwa cara manusia mengelola AI di masa depan akan menjadi pusat untuk mencegah skenario ini. “Kita perlu memastikan bahwa tidak ada satu orang pun, tidak ada satu perusahaan pun, dan tidak ada satu pemerintah pun yang dapat memiliki kekuasaan penuh atas AI yang sangat cerdas,” tegasnya.
Kemajuan yang dilakukan oleh perusahaan rintisan China DeepSeek dapat semakin meningkatkan perlombaan AI di antara negara-negara adidaya, meningkatkan perkembangan yang mengkhawatirkan di bidang yang didominasi oleh Silicon Valley dan perusahaan teknologi besar Barat dalam beberapa tahun terakhir.
“Bahayanya di sini adalah bahwa dalam perlombaan mereka untuk melampaui satu sama lain, masalah keamanan mungkin terabaikan. Kita semua bisa menjadi korban dari perlombaan ini jika kita tidak cukup berhati-hati,” Bengio mengingatkan.
Selain itu, perlombaan yang semakin intensif diperkirakan akan mendorong konsekuensi lingkungan yang mendalam, terutama dalam konsumsi energi. Perusahaan-perusahaan AI besar, yang didorong oleh prospek keuntungan besar, bersedia untuk menyerap biaya energi yang tinggi. Lonjakan permintaan ini pasti akan menaikkan harga energi secara keseluruhan, termasuk listrik, minyak, dan sumber daya lainnya, yang tidak hanya memengaruhi perusahaan teknologi tetapi juga rumah tangga dan industri di seluruh dunia.
Di sinilah kekuatan pasar yang tidak terkendali dan persaingan nasional dapat menyebabkan kerugian global. “Itulah mengapa intervensi pemerintah sangat penting. Para pembuat kebijakan harus menegosiasikan perjanjian yang membatasi konsumsi energi pada tingkat yang berkelanjutan. Jika tidak, kekuatan persaingan antar perusahaan hanya akan mempercepat ekspansi AI dengan cara yang tidak hanya tidak berkelanjutan tetapi juga berpotensi berbahaya,” desak Bengio.
Menjembatani kesenjangan AI
Bapak dari AI ini telah menyampaikan seruan mendesak untuk membangun kerangka kerja etika yang kuat dan langkah-langkah regulasi untuk memastikan pengembangan dan penerapan yang bertanggung jawab.
“Saat ini, pada dasarnya tidak ada kerangka kerja regulasi hampir di semua negara tempat sistem ini dikembangkan. Saya pikir pemerintah memiliki tanggung jawab untuk setidaknya mewajibkan semacam pelaporan kepada mereka,” ujarnya.
Tanggung jawab adalah aspek kunci lainnya. Di banyak negara, prinsip-prinsip hukum membuat perusahaan bertanggung jawab atas produk yang menyebabkan bahaya. Namun, dalam hal perangkat lunak, tanggung jawab tetap menjadi area abu-abu, menurut Bengio. “Memperjelas hukum pertanggungjawaban akan menjadi langkah yang sederhana namun efektif. Jika perusahaan tahu bahwa mereka dapat menghadapi tuntutan hukum atas kelalaian, mereka akan memiliki insentif yang lebih kuat untuk mengelola risiko dengan baik,” tegasnya.
Ia juga menekankan bahwa hal ini akan membutuhkan upaya bersama dari individu dan institusi yang menyadari risiko yang ada, seperti penggunaan jahat yang dahsyat. Di tempat lain, kekhawatiran akan keamanan kerja dan peluang kerja di masa depan membayangi. “Jadwal untuk pergeseran ini tidak pasti, tetapi kita bisa melihat transformasi radikal dalam waktu lima hingga sepuluh tahun,” Bengio memperkirakan.
Meskipun beberapa pekerjaan pasti akan digantikan oleh otomatisasi, Bengio menekankan bahwa tidak semua profesi memiliki risiko yang sama. “Memperluas pendidikan digital dan AI sangat penting, tetapi itu tidak akan menjadi solusi universal. Tidak semua orang bisa menjadi insinyur AI,” katanya. Sebaliknya, peran yang membutuhkan kecerdasan emosional dan interaksi manusia, termasuk profesional kesehatan, terapis, dan manajer, lebih mungkin untuk bertahan. Daripada adaptasi individu, Bengio mengajukan pertanyaan yang lebih besar: Dapatkah penerapan AI secara sengaja dibentuk untuk meminimalkan gangguan?
“Sekali lagi, ini adalah sesuatu yang harus dilakukan secara global, yang sangat menantang. Kita harus melakukannya dengan cara yang tidak menimbulkan gangguan radikal dalam tatanan sosial,” pungkasnya.
Di luar peraturan nasional, Bengio menekankan perlunya koordinasi global. Dia menyoroti bahwa pada akhirnya, manusia harus mengarah pada perjanjian dan kesepakatan global, serupa dengan bagaimana kita menangani risiko ilmiah dan teknologi lainnya. Ketika AI dengan cepat membentuk kembali industri, kesenjangan baru dalam hal kekayaan, pemindahan pekerjaan, atau kekuatan politik dapat semakin dalam kecuali jika tindakan proaktif diambil. Bengio memperingatkan bahwa AI saat ini terkonsentrasi di tangan beberapa perusahaan dan negara.
Dia mengambil Vietnam, negara dengan sektor industri yang kuat, sebagai contoh. Jika otomatisasi yang meluas mengalihkan produksi ke fasilitas bertenaga AI di negara-negara kaya seperti AS, hal ini dapat menyebabkan hilangnya pekerjaan yang signifikan dan kesulitan ekonomi di negara-negara yang bergantung pada ekspor manufaktur.
Oleh karena itu, Bengio menyarankan untuk mengadakan negosiasi global – suatu bentuk pertukaran di mana negara-negara yang mengembangkan AI canggih dapat meminta negara lain untuk menahan diri dari menciptakan AI yang berpotensi berbahaya. Sebagai gantinya, kekayaan yang dihasilkan oleh sistem AI ini, seperti teknologi baru dan kemajuan medis, harus dibagikan secara global.
“Tentu saja, kita masih sangat jauh dari hal ini, tetapi kita perlu memulai diskusi tersebut di tingkat global,” tegasnya.
Langkah pertama untuk menjembatani kesenjangan AI adalah dengan mendorong kolaborasi antara negara berkembang dan negara berteknologi maju. Bengio menyoroti pentingnya inisiatif seperti VinFuture Prize, yang menarik perhatian global terhadap kemajuan ilmiah di wilayah di luar pusat teknologi tradisional.
“Hadiah besar seperti VinFuture Prize dapat membuat para ilmuwan terkemuka jauh lebih sadar akan apa yang sedang terjadi di Vietnam dan negara-negara berkembang lainnya,” jelasnya.
Negara-negara seperti Vietnam, India, dan Brasil telah memiliki sumber daya manusia yang kuat dan keahlian yang terus berkembang di bidang AI. Dengan membentuk kemitraan strategis dengan negara-negara kaya sumber daya seperti Kanada dan negara-negara Eropa, mereka dapat mengembangkan proyek-proyek AI yang kompetitif dalam skala global. Kolaborasi semacam itu, jika disusun dengan hati-hati, dapat memastikan distribusi kekuatan teknologi yang lebih merata, menurut Bengio.
Selain itu, Bengio menekankan pentingnya menjembatani kesenjangan antara akademisi dan industri. “Dengan mengakui dan mendukung inovasi terobosan, VinFuture Prize mendorong kolaborasi yang lebih dalam antara para ilmuwan, pemimpin industri, dan pembuat kebijakan, serta mendorong dialog global tentang AI yang bertanggung jawab,” katanya.
VinFuture Foundation, yang didirikan pada Hari Solidaritas Manusia Internasional pada tanggal 20 Desember 2020, adalah organisasi nirlaba yang didirikan oleh miliarder Pham Nhat Vuong dan istrinya, Ny. Pham Thu Huong. Kegiatan utama yayasan ini adalah memberikan penghargaan tahunan VinFuture Prize, yang memberikan penghargaan kepada inovasi ilmiah dan teknologi transformatif yang mampu membuat perubahan positif yang signifikan dalam kehidupan jutaan orang di seluruh dunia.
Periode nominasi untuk VinFuture Prize 2025 akan ditutup pada pukul 14:00 tanggal 17 April 2025 (waktu Vietnam, GMT+7).
VinFuture Prize terdiri dari empat penghargaan bergengsi yang diberikan setiap tahun. Yang paling bergengsi adalah VinFuture Grand Prize, yang bernilai US$3 juta, menjadikannya salah satu penghargaan tahunan terbesar di dunia. Selain itu, ada tiga Special Prize, yang masing-masing bernilai US$500.000, yang secara khusus didedikasikan untuk menghormati inovator perempuan, inovator dari negara berkembang, dan inovator dengan pencapaian luar biasa di bidang yang sedang berkembang.
Recent Comments