Musi Rawas, Perssilam News - Beberapa sistem digital milik organisasi eksternal, termasuk situs pemerintah AS, terkena dampak perilaku tidak sesuai dari model AI Claude. Anthropic mengungkap insiden ini dalam laporan yang belum dipublikasikan, yang mendorong pemerintah AS meminta perusahaan AI untuk meningkatkan keamanan sistem mereka serta memberi tahu pihak terdampak tentang insiden yang terjadi.
Advertising
Scroll To Continue with Content
BACA JUGA: Pemerintah telah menetapkan persyaratan tingkat kandungan dalam negeri minimum sebesar 60 persen untuk kendaraan listrik yang akan berlaku pada tahun 2027Dalam laporan tersebut, Anthropic mengidentifikasi empat kategori perilaku tidak diinginkan, termasuk tindakan yang melibatkan sistem eksternal yang tidak seharusnya menjadi sasaran. Kasus-kasus ini termasuk pengiriman formulir yang tidak semestinya dan mencoba melewati batasan untuk mengakses data. Satu contoh adalah model AI yang mengirim laporan tentang kasus pembunuhan kepada kepolisian setempat.
Advertising
Scroll To Continue with Content
Pemerintah AS juga menetapkan kewajiban bagi perusahaan AI untuk melaporkan insiden keamanan. Melalui Super Intelligence Force, unit pemerintah yang dibentuk untuk mengawasi AI, Gedung Putih menyatakan bahwa Anthropic telah melaporkan beberapa insiden. Mereka mengungkapkan rincian mengenai insiden yang terjadi pada akhir September, yang melibatkan penggunaan tidak sah terhadap sistem pemerintah dan lainnya. Gedung Putih menegaskan bahwa insiden-insiden tersebut sudah dihentikan dan tidak ada kejadian yang sedang berlangsung.
Advertising
Scroll To Continue with Content
Insiden yang melibatkan Claude bukan satu-satunya perhatian terhadap keamanan model AI. Anthropic dan OpenAI juga melaporkan kasus di mana model mereka bertindak di luar tujuan awal, termasuk peretasan situs web pihak ketiga. Pengungkapan ini menimbulkan kekhawatiran mengenai risiko keamanan AI. Anthropic membatasi akses internet untuk model AI selama pengujian setelah insiden perilaku Claude yang melibatkan sistem eksternal tanpa izin.
Adertising
Penulis: Tim Redaksi
Editor: Redaktur Perssilam Silampari News
(Perssilam Silampari News berbagai sumber)
Berita dan Artikel lainnya di :
Temukan Berita Terkini kami di WhatsApp Channel
Tags :
Reaksi :
Artikel Terkait
