Google membentuk kelompok kerja untuk kecerdasan buatan yang aman

“AI memerlukan kerangka kerja yang aman dan standar aplikasi yang dapat mengimbangi pertumbuhan pesat,” kata Google. Sebuah organisasi baru akan dibentuk untuk mengatasi tantangan ini: Koalisi untuk Kecerdasan Buatan yang Aman (CoSAI), yang diluncurkan pada hari Kamis. Selain Google, anggota pendirinya antara lain Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, PayPal, dan Wiz. (Wiz adalah startup keamanan TI yang ingin diakuisisi oleh Google.)

iklan

Badan Pemeriksa Keuangan dan Badan Pemeriksa Keuangan Anda ingin bekerja dengan sains, organisasi lain, dan industri TI secara umum dan memimpin tiga kelompok kerja pada awalnya: untuk mengamankan rantai pasokan AI (keamanan rantai pasokan perangkat lunak untuk sistem AI), untuk mempersiapkan keamanan TI menghadapi perubahan skenario ancaman karena AI serta untuk mengelola tata kelola keamanan AI.

Tugas ketiga kelompok kerja

Kelompok yang terakhir, misalnya, harus mengembangkan sistem definisi istilah sehingga orang-orang di industri ini tidak terlalu banyak bicara tentang satu sama lain. Daftar yang harus dilakukan juga mencakup daftar periksa dan sistem penilaian standar untuk menilai kesiapan menghadapi masalah keamanan dalam aplikasi AI, mengelola dan memantaunya, serta melaporkan masalah keamanan.

Untuk memperkuat keamanan TI dalam pertempuran melawan penyerang yang digerakkan oleh AI, Kelompok Kerja CoSAI kedua akan menciptakan kerangka kerja yang membantu para pembela TI memutuskan apakah akan berinvestasi dalam langkah-langkah mitigasi. Kelompok kerja pertama akan mengembangkan instruksi berdasarkan pengalaman menggunakan perangkat lunak klasik. Panduan ini dimaksudkan untuk membantu Anda memahami bagaimana AI tertentu muncul (asal dan penciptaan) dan bagaimana AI tersebut berinteraksi dengan penawaran pihak ketiga untuk menyimpulkan ancaman.

Inisiatif CoSAI Lainnya Pada musim gugur, Google memperluas program bug bounty dengan menyertakan produk AI guna mendorong pihak ketiga meneliti kerentanan AI. Pada bulan Juni tahun sebelumnya, perusahaan data Kerangka kerja yang aman untuk kecerdasan buatan Diterbitkan bekerja sama dengan mitra dari industri Komitmen AI Sukarela diterbitkan.

(S)