Mitä on superäly ja miksi teknologiajätit vaativat sen kieltämistä?

Yli 800 merkittävää henkilöä teknologian, tieteen, politiikan ja kulttuurin aloilta on allekirjoittanut julkisen lausunnon, jossa vaaditaan "superälykkäiden" tekoälyjärjestelmien kehittämisen kieltämistä.

Future of Life Instituten koordinoimaan ja keskiviikkona julkistettuun koalitioon kuuluvat Applen perustaja Steve Wozniak, Virgin Groupin perustaja Richard Branson, viisi Nobel-palkittua, tekoälyn pioneerit Geoffrey Hinton ja Yoshua Bengio, joita molempia kutsutaan usein "tekoälyn kummisediksi".

Siihen kuuluvat myös entinen Yhdysvaltain päälliköiden puheenjohtaja Mike Mullen, paavi Franciscuksen tekoälyneuvonantaja Paolo Benanti ja jopa prinssi Harry ja Meghan, Sussexin herttua ja herttuatar.

Poliittisesti monimuotoinen ryhmä heijastaa sitä, mitä järjestäjät kuvailevat yleismaailmalliseksi huoleksi eksistentiaalisista riskeistä, joita ihmiset voivat ylittää.

Mikä on superäly?

Superäly, jota joskus kutsutaan tekoälyn superälyksi tai ASI:ksi, viittaa tekoälytyyppiin, joka olisi ihmisiä älykkäämpi käytännössä kaikilla tärkeillä alueilla.

Se eroaa suuresti nykypäivän tekoälytyökaluista, kuten ChatGPT:stä, jotka kuuluvat "kapean tekoälyn" luokkaan, koska ne on suunniteltu suorittamaan tiettyjä tehtäviä.

Jopa edistyneimmät järjestelmät, joita meillä on nyt, mukaan lukien suuret kielimallit, kuten GPT-5, ovat edelleen rajallisia.

He voivat kirjoittaa koodia, luonnostella esseitä ja jopa läpäistä kokeita, mutta he eivät ajattele itsenäisesti, aseta omia tavoitteitaan tai ymmärrä maailmaa ihmisten tavoin.

He ovat oikeastaan vain ennustavia malleja koulutusdatan perusteella, eivät päättely tulevaisuudesta tai tee itsenäisiä päätöksiä.

Jotkut tutkijat uskovat, että seuraava virstanpylväs on AGI, tekoälyn yleinen älykkyys, joka vastaisi ihmisen älykkyyttä ja oppisi uusia tehtäviä itse.

Mutta superäly menisi paljon pidemmälle.

Teoriassa se voisi ajatella ihmisiä enemmän tieteessä, strategiassa, tekniikassa, lääketieteessä, periaatteessa kaikilla kognitiivisilla aloilla ja ratkaista ongelmia, jotka ovat tällä hetkellä kaukana ulottuviltamme.

Tämä eksponentiaalinen harppaus on juuri siksi keskustelu sen riskeistä on niin kiihkeää.

Miksi teknologiajohtajat vaativat kieltoa?

Vetoomuksen allekirjoittaneet sanovat, että nykyinen kilpailu kohti superälyä, jota johtavat OpenAI:n, Googlen ja Metan kaltaiset yritykset, etenee paljon nopeammin kuin hallitukset tai sääntelyviranomaiset pystyvät pysymään perässä.

Jopa sisäpiiriläiset soittavat hälytyskelloja: Sam Altman on sanonut olevansa yllättynyt, jos superälyä ei olisi täällä vuoteen 2030 mennessä, ja Meta on mennyt niin pitkälle, että on nimennyt osan tekoälydivisioonastaan uudelleen "Meta Superintelligence Labsiksi", mikä tekee sen tavoitteista kristallinkirkkaita.

Vetoomuksessa superälyä kuvataan riskiksi pandemioiden tai ydinaseiden mittakaavassa.

Tämä kehystys ei ole uusi, sillä se toistaa tekoälyjohtajien vuonna 2023 antamaa lausuntoa, jossa kehotetaan maailman johtajia käsittelemään tekoälyn sukupuuttoriskiä maailmanlaajuisena ensisijaisena prioriteettina.

Kiellon kannattajat sanovat, että panokset ovat eksistentiaaliset.

He väittävät, että jos superälykkäitä järjestelmiä rakennetaan ilman vahvoja turvallisuussääntöjä, ihmiset voivat menettää kriittisten järjestelmien hallinnan, kärsiä laajamittaisesta taloudellisesta syrjäytyksestä tai kohdata paljon pahempia tuloksia.

Vetoomuksen allekirjoittanut UC Berkeleyn tekoälyn turvallisuustutkija Stuart Russell korosti, että tämän ei ole tarkoitus olla yleinen kielto, vaan pikemminkin vaatimus turvallisuusprotokollien käyttöönotosta teknologialle, joka omien luojiensa mukaan voisi uskottavasti lopettaa ihmiskunnan.

Tämä vetoomus on viimeisin kasvavassa koordinoitujen yritysten aallossa hidastaa ryntäystä kohti yhä tehokkaampaa tekoälyä.