Ai TechAi Trend

3 Pertanyaan: Pemodelan kecerdasan permusuhan untuk mengeksploitasi kerentanan keamanan AI | Berita MIT


Jika Anda telah menonton kartun seperti Tom dan Jerry, Anda akan mengenali tema umum: target yang sulit dipahami menghindari musuhnya yang tangguh. Permainan “kucing-dan-tikus” ini-apakah literal atau sebaliknya-melibatkan mengejar sesuatu yang benar-benar melarikan diri dari Anda pada setiap percobaan.

Dengan cara yang sama, menghindari peretas yang gigih adalah tantangan berkelanjutan bagi tim keamanan siber. Menjaga mereka mengejar apa yang hanya di luar jangkauan, para peneliti MIT sedang mengerjakan pendekatan AI yang disebut “kecerdasan permusuhan buatan” yang meniru penyerang perangkat atau jaringan untuk menguji pertahanan jaringan sebelum serangan nyata terjadi. Langkah-langkah pertahanan berbasis AI lainnya membantu para insinyur lebih jauh memperkuat sistem mereka untuk menghindari ransomware, pencurian data, atau peretasan lainnya.

Di sini, UNA-MAY O’REILLY, Investigator Utama MIT Computer Science dan Buatan Kecerdasan (CSAIL) yang memimpin Pembelajaran apa pun untuk semua grup (Alfa), membahas bagaimana kecerdasan permusuhan buatan melindungi kita dari ancaman cyber.

Q: Dalam hal apa intelijen permusuhan buatan memainkan peran penyerang cyber, dan bagaimana kecerdasan permusuhan buatan menggambarkan seorang bek dunia maya?

A: Penyerang cyber ada di sepanjang spektrum kompetensi. Di ujung terendah, ada apa yang disebut naskah-anak, atau aktor ancaman yang menyemprotkan eksploitasi dan malware terkenal dengan harapan menemukan beberapa jaringan atau perangkat yang belum mempraktikkan kebersihan cyber yang baik. Di tengah adalah tentara bayaran dunia maya yang lebih baik sumber daya dan terorganisir untuk memangsa perusahaan dengan ransomware atau pemerasan. Dan, di kelas atas, ada kelompok-kelompok yang terkadang didukung negara, yang dapat meluncurkan “ancaman persisten canggih” yang paling sulit dideteksi (atau APT).

Pikirkan kecerdasan khusus dan jahat bahwa penyerang marshal ini – itu adalah kecerdasan yang bermusuhan. Para penyerang membuat alat yang sangat teknis yang memungkinkan mereka meretas kode, mereka memilih alat yang tepat untuk target mereka, dan serangan mereka memiliki banyak langkah. Pada setiap langkah, mereka belajar sesuatu, mengintegrasikannya ke dalam kesadaran situasional mereka, dan kemudian membuat keputusan tentang apa yang harus dilakukan selanjutnya. Untuk APT yang canggih, mereka dapat secara strategis memilih target mereka, dan merancang rencana yang lambat dan visibilitas rendah yang begitu halus sehingga implementasinya lolos dari perisai pertahanan kami. Mereka bahkan dapat merencanakan bukti menipu yang menunjuk ke peretas lain!

Tujuan penelitian saya adalah untuk meniru jenis intelijen ofensif atau menyerang khusus ini, kecerdasan yang berorientasi secara permusuhan (kecerdasan yang diandalkan oleh aktor ancaman manusia). Saya menggunakan AI dan Machine Learning untuk merancang agen cyber dan memodelkan perilaku permusuhan penyerang manusia. Saya juga memodelkan pembelajaran dan adaptasi yang menjadi ciri ras senjata dunia maya.

Saya juga harus mencatat bahwa pertahanan dunia maya cukup rumit. Mereka telah mengembangkan kompleksitas mereka dalam menanggapi peningkatan kemampuan serangan. Sistem pertahanan ini melibatkan merancang detektor, log sistem pemrosesan, memicu peringatan yang sesuai, dan kemudian triaging menjadi sistem respons insiden. Mereka harus terus -menerus waspada untuk mempertahankan permukaan serangan yang sangat besar yang sulit dilacak dan sangat dinamis. Di sisi lain dari kompetisi penyerang-versus-pertahanan ini, tim saya dan saya juga menemukan AI dalam pelayanan dari berbagai bidang defensif ini.

Hal lain menonjol tentang kecerdasan permusuhan: Tom dan Jerry dapat belajar dari saling bersaing! Keterampilan mereka mempertajam dan mereka mengunci perlombaan senjata. Satu menjadi lebih baik, maka yang lain, untuk menyelamatkan kulitnya, menjadi lebih baik juga. Peningkatan tit-for-tat ini naik dan naik! Kami berupaya mereplikasi versi cyber dari balapan senjata ini.

Q: Apa saja contoh dalam kehidupan kita sehari -hari di mana kecerdasan permusuhan buatan membuat kita tetap aman? Bagaimana kita bisa menggunakan agen intelijen permusuhan untuk tetap berada di depan aktor ancaman?

A: Pembelajaran mesin telah digunakan dalam banyak hal untuk memastikan keamanan siber. Ada semua jenis detektor yang menyaring ancaman. Mereka disetel pada perilaku anomali dan untuk jenis malware yang dapat dikenali, misalnya. Ada sistem triase yang mendukung AI. Beberapa alat perlindungan spam di sana di ponsel Anda diaktifkan AI!

Dengan tim saya, saya merancang penyerang cyber yang mendukung AI yang dapat melakukan apa yang dilakukan aktor ancaman. Kami menemukan AI untuk memberikan keterampilan komputer dan pengetahuan pemrograman kepada agen cyber agen kami, untuk membuatnya mampu memproses segala macam pengetahuan dunia maya, merencanakan langkah -langkah serangan, dan membuat keputusan berdasarkan informasi dalam suatu kampanye.

Agen cerdas yang bermusuhan (seperti penyerang cyber AI kami) dapat digunakan sebagai praktik saat menguji pertahanan jaringan. Banyak upaya untuk memeriksa ketahanan jaringan untuk menyerang, dan AI dapat membantu dengan itu. Selain itu, ketika kami menambahkan pembelajaran mesin ke agen kami, dan untuk pertahanan kami, mereka memainkan perlombaan senjata yang dapat kami periksa, analisis, dan gunakan untuk mengantisipasi penanggulangan apa yang dapat digunakan ketika kami mengambil langkah -langkah untuk mempertahankan diri.

Q: Risiko baru apa yang mereka beradaptasi, dan bagaimana mereka melakukannya?

A: Tampaknya tidak pernah ada akhir dari perangkat lunak baru yang dirilis dan konfigurasi baru sistem sedang direkayasa. Dengan setiap rilis, ada kerentanan yang dapat ditargetkan oleh penyerang. Ini mungkin merupakan contoh kelemahan dalam kode yang sudah didokumentasikan, atau mungkin novel.

Konfigurasi baru menimbulkan risiko kesalahan atau cara baru untuk diserang. Kami tidak membayangkan ransomware ketika kami berurusan dengan serangan penolakan layanan. Sekarang kami menyulap spionase cyber dan ransomware dengan IP [intellectual property] pencurian. Semua infrastruktur kritis kami, termasuk jaringan telekomunikasi dan sistem keuangan, perawatan kesehatan, kota, energi, dan sistem air, adalah target.

Untungnya, banyak upaya yang dikhususkan untuk membela infrastruktur kritis. Kami perlu menerjemahkannya ke produk dan layanan berbasis AI yang mengotomatiskan beberapa upaya tersebut. Dan, tentu saja, untuk terus merancang agen -agen yang lebih pintar dan lebih cerdas untuk menjaga kita tetap waspada, atau membantu kita berlatih membela aset cyber kita.

Informasi ini pertama kali tayang di MIT.edu klik disini untuk melihat berita lainnya.


Discover more from Kitiran Media

Subscribe to get the latest posts sent to your email.

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button