Adakah AI baru sahaja mengetuai serangan siber global pertamanya? Antropik membunyikan penggera

Firma AI Anthropic yang berpangkalan di San Francisco telah mendedahkan apa yang digambarkannya sebagai serangan siber berskala besar pertama yang kebanyakannya dilakukan oleh kecerdasan buatan.

Insiden itu, yang muncul pada pertengahan September, menandakan peralihan dalam sifat ancaman digital, dengan alat AI bukan sahaja menyokong serangan siber tetapi melaksanakannya secara langsung.

Anthropic, yang mengendalikan chatbot Claude dan memegang nilai pasaran $183 bilion, mengeluarkan butiran pelanggaran itu dalam catatan blog.

Firma itu melaporkan mengesan apa yang dipanggil operasi pengintipan yang sangat canggih yang menyasarkan kira-kira 30 entiti global, termasuk firma teknologi utama, perkhidmatan kewangan, syarikat kimia dan badan kerajaan.

Syarikat itu mula-mula mendedahkan kejadian itu dalam catatan di X, memberi amaran bahawa ia "mempunyai implikasi yang ketara untuk keselamatan siber pada zaman ejen AI."

Bagaimana Claude digunakan

Penyerang dilaporkan menyamar sebagai firma keselamatan siber yang menjalankan ujian yang sah.

Strategi ini membolehkan mereka memintas sistem keselamatan terbina dalam Claude dengan memberikannya gesaan yang kelihatan tidak berbahaya di permukaan.

Sebaik sahaja sekatan tersebut dipintas, mereka memecahkan ciri Kod Claude dan mendapat akses kepada keupayaan yang jauh melebihi skop yang dimaksudkan.

Dengan kawalan ini dilumpuhkan, chatbot telah diarahkan untuk memeriksa infrastruktur digital, mencari pangkalan data kritikal, menulis kod eksploitasi tersuai, mengumpul kelayakan akses dan mengatur maklumat yang dicuri.

Operasi itu disusun sedemikian rupa sehingga Claude menerima tugas yang dipecahkan kepada bahagian-bahagian kecil, masing-masing tidak mempunyai konteks.

Ini menghalangnya daripada mengenal pasti objektif berniat jahat keseluruhan.

Kumpulan negeri di belakangnya

Anthropic menyatakan dengan keyakinan tinggi bahawa penyerang dikaitkan dengan kumpulan penggodaman tajaan kerajaan China.

Kempen itu mempamerkan cara ciri ejen AI boleh dijadikan senjata.

Daripada bertindak sebagai alat untuk bimbingan atau nasihat, Claude digunakan sebagai ejen autonomi untuk menyelesaikan tugas yang biasanya dikhaskan untuk pasukan penggodaman yang berpengalaman.

Pada kemuncaknya, AI membuat beribu-ribu pertanyaan sistem, kebanyakannya berturut-turut.

Anthropic menganggarkan bahawa antara 80% hingga 90% kerja yang dijalankan dalam serangan siber dilakukan oleh AI.

Kelajuan dan skala permintaan jauh melebihi apa yang boleh dicapai oleh pasukan yang diterajui manusia dalam jangka masa yang sama.

Walaupun chatbot tidak selalu berfungsi dengan sempurna, kadang-kadang mencipta kelayakan atau salah anggap maklumat awam sebagai sulit, Anthropic menyatakan bahawa batasan ini tidak banyak mengurangkan keseriusan pelanggaran itu.

Apa yang dilakukan oleh Anthropic seterusnya

Sebaik sahaja aktiviti itu dikenal pasti, Anthropic melancarkan siasatan selama sepuluh hari.

Dalam tempoh ini, ia mengharamkan akaun yang dikaitkan dengan penyerang, menghubungi pihak yang terjejas, dan bekerjasama dengan pihak berkuasa yang berkaitan.

Syarikat itu juga menambah baik sistem pengesanan dalamannya dan memperkenalkan pengelas baharu untuk menandakan ancaman serupa dengan lebih berkesan pada masa hadapan.

Anthropic sejak itu telah komited untuk berkongsi butiran peristiwa ini dengan penyelidik keselamatan siber dan rakan kongsi industri untuk membantu orang lain mengukuhkan pertahanan mereka.

Dengan menerbitkan penemuannya, syarikat itu berharap dapat memberikan gambaran tentang cara AI ejen boleh dieksploitasi dan bagaimana persekitaran ancaman berkembang.

Serangan menjadi lebih mudah

Walaupun firma itu mengakui bahawa serangan siber autonomi sepenuhnya kekal terhad oleh teknologi hari ini, kempen itu mendedahkan bahawa kos dan kepakaran yang diperlukan untuk melancarkan pelanggaran berskala besar telah menurun dengan ketara.

Dengan gesaan dan akses yang betul, kumpulan yang kurang berpengalaman kini boleh melakukan serangan lanjutan yang dahulunya terhad kepada negara-bangsa yang mempunyai sumber yang baik.

Anthropic menyimpulkan bahawa alat AI ejen sudah boleh digunakan untuk melaksanakan banyak fungsi pasukan penggodaman penuh.

Sistem ini mampu mengimbas sasaran, menulis skrip serangan dan memproses set data besar pada kelajuan yang tiada tandingan.

Apabila pembangunan berterusan, jurang antara perkara yang boleh dicapai oleh manusia dan AI dalam keselamatan siber mungkin akan mengecil lebih jauh.

Kejadian ini menandakan titik perubahan untuk keselamatan digital. Ia bukan lagi hanya tentang melindungi sistem daripada penggodam manusia. Seperti yang ditunjukkan oleh kes Anthropic, kecerdasan buatan itu sendiri kini boleh menjadi penyerang.