Apakah kecerdasan super dan mengapa gergasi teknologi menggesa pengharamannya?

Lebih daripada 800 tokoh terkemuka dari seluruh spektrum teknologi, saintifik, politik dan budaya telah menandatangani kenyataan awam yang menyeru larangan pembangunan sistem kecerdasan buatan "superpintar".

Gabungan itu, yang diselaraskan oleh Institut Masa Depan Kehidupan dan diumumkan pada hari Rabu, termasuk pengasas bersama Apple Steve Wozniak, pengasas Kumpulan Virgin Richard Branson, lima pemenang Nobel, perintis AI Geoffrey Hinton dan Yoshua Bengio, kedua-duanya sering dipanggil "bapa baptis AI."

Ia juga termasuk bekas Pengerusi Ketua Bersama AS Mike Mullen, penasihat AI Pope Francis Paolo Benanti, dan juga Putera Harry dan Meghan, Duke dan Duchess of Sussex.

Kumpulan yang pelbagai politik mencerminkan apa yang digambarkan oleh penganjur sebagai kebimbangan sejagat terhadap risiko kewujudan yang ditimbulkan oleh mesin yang boleh mengatasi kecerdasan manusia.

Apa itu Superintelligence?

Kecerdasan super, kadangkala dirujuk sebagai kecerdasan super buatan atau ASI, merujuk kepada sejenis AI yang akan menjadi lebih pintar daripada manusia dalam hampir setiap bidang yang penting.

Itu sangat berbeza daripada alat AI hari ini, seperti ChatGPT, yang termasuk dalam kategori "AI sempit" kerana ia direka untuk melaksanakan tugas tertentu.

Malah sistem paling canggih yang kami ada sekarang, termasuk model bahasa besar seperti GPT-5, masih terhad.

Mereka boleh menulis kod, merangka esei, dan juga lulus peperiksaan, tetapi mereka tidak berfikir secara bebas, menetapkan matlamat mereka sendiri, atau memahami dunia seperti manusia.

Mereka sebenarnya hanya meramalkan corak berdasarkan data latihan, bukan menaakul tentang masa depan atau membuat keputusan autonomi.

Sesetengah penyelidik berpendapat pencapaian seterusnya ialah AGI, kecerdasan am buatan, yang akan sepadan dengan kecerdasan manusia dan mempelajari tugas baharu sendiri.

Tetapi perisikan super akan melangkaui itu.

Secara teori, ia boleh mengatasi manusia dalam sains, strategi, kejuruteraan, perubatan, pada asasnya setiap domain kognitif, dan boleh menyelesaikan masalah yang kini berada di luar jangkauan kita.

Lonjakan eksponen itulah sebabnya perdebatan mengenai risikonya begitu sengit.

Mengapakah pemimpin teknologi menggesa larangan?

Mereka yang menandatangani petisyen itu berkata perlumbaan semasa ke arah kecerdasan super, yang diketuai oleh syarikat seperti OpenAI, Google dan Meta, bergerak jauh lebih pantas daripada yang boleh diikuti oleh kerajaan atau pengawal selia.

Malah orang dalam membunyikan penggera: Sam Altman telah berkata dia akan terkejut jika perisikan super tidak ada di sini menjelang 2030, dan Meta telah pergi sejauh ini untuk menamakan semula sebahagian daripada bahagian AInya "Meta Superintelligence Labs," menjadikan cita-citanya jelas.

Petisyen itu menggambarkan perisikan super sebagai risiko pada skala pandemik atau senjata nuklear.

Pembingkaian itu bukan baharu, kerana ia mengulangi kenyataan 2023 daripada eksekutif AI yang menggesa pemimpin dunia untuk menganggap risiko kepupusan AI sebagai keutamaan global.

Penyokong larangan itu mengatakan pertaruhannya adalah wujud.

Jika sistem superintelligent dibina tanpa peraturan keselamatan yang kuat, mereka berpendapat, manusia boleh kehilangan kawalan ke atas sistem kritikal, mengalami perpindahan ekonomi besar-besaran, atau menghadapi hasil yang jauh lebih teruk.

Stuart Russell, penyelidik keselamatan AI UC Berkeley yang menandatangani petisyen itu, menekankan bahawa ini tidak dimaksudkan untuk menjadi larangan menyeluruh tetapi sebaliknya tuntutan agar protokol keselamatan disediakan untuk teknologi yang, menurut penciptanya sendiri, boleh menamatkan kemanusiaan secara munasabah.

Petisyen ini adalah yang terbaru dalam gelombang percubaan yang diselaraskan yang semakin meningkat untuk memperlahankan tergesa-gesa ke arah AI yang semakin berkuasa.