Metan valvontaneuvosto varoittaa poliittisesta vinoumasta tekoälymalleissa

Johtavien yritysten, kuten Anthropicin ja OpenAI:n, kehittämät tekoälymallit tuottavat selvästi harvemmin poliittisesti kriittistä sisältöä hallituksista, jotka tunnetaan sananvapauden rajoittamisesta, Metan valvontaneuvoston torstaina julkaistun uuden tutkimuksen mukaan.

Neuvosto totesi, että havainnot viittaavat siihen, että suuret kielimallit saattavat peilata joidenkin hallitusten asettamia puheen rajoituksia, mikä herättää huolen siitä, että poliittinen vinoutuma voisi juurtua tekoälypalveluihin, joita yhä useammat ihmiset käyttävät.

Tutkimuksessa tarkasteltiin 10 tekoälymallia useilla oikeusalueilla

Tutkimus on valvontaneuvoston ensimmäinen tutkimus, joka keskittyy suuriin kielimalleihin.

Neuvosto, jota Meta rahoittaa mutta joka toimii itsenäisesti, testasi poliittisesti kriittisiä kehotteita 10 oikeusalueella käyttäen 10 tekoälymallia.

Malleihin kuului Metan, Googlen ja Kiinan DeepSeekin kehittämiä järjestelmiä sekä muita johtavia tekoälyyrityksiä, kuten Anthropic ja OpenAI.

Tarkastelua varten neuvosto jakoi oikeusalueet kahteen kategoriaan: "suvaitsevaiset" ja "rajoittavat".

Luokittelut perustuivat Freedom House'n vuosittaiseen Freedom in the World -raporttiin julkaistuihin sijoituksiin.

Mallit näyttivät korkeampia kieltäytymisasteita rajoittavissa maissa

Tutkimuksen mukaan tekoälymallit kieltäytyivät 34 % pyynnöistä, jotka hakeutuivat poliittisesti kriittiseen sisältöön rajoittavissa oikeusalueissa, joissa tällaista kritiikkiä rangaistaan aktiivisesti, mukaan lukien Kiina ja Saudi-Arabia.

Vertailun vuoksi kieltäytymisaste laski 14 prosenttiin oikeusalueilla, joilla tällaisia lakeja ei ole tai joita ei valvota aktiivisesti.

Neuvosto totesi, että havainnot viittaavat siihen, että tekoälyjärjestelmät saattavat olla varovaisempia vastatessaan kehotteisiin, jotka koskevat hallituksia, joilla on tiukemmat poliittisen puheen valvontamekanismit.

Neuvosto nostaa esiin selittämättömiä viittauksia olemattomiin sääntöihin

Kieltäytymisprosenttien lisäksi valvontaneuvosto kertoi tunnistaneensa esimerkkejä, joissa tekoälymallit näyttivät oikeuttavan vastauksiaan viittaamalla sääntöihin, joita ei voitu varmistaa.

"Näimme myös todisteita siitä, että mallit selittivät noudattavansa nimenomaisia sääntöjä, jotka niin kuin pystyimme toteamaan, eivät näyttäneet olevan olemassa eivätkä olleet tasaisesti sovellettuja", neuvosto sanoi.

Neuvosto totesi, että tämä herättää lisäkysymyksiä siitä, miten tekoälyjärjestelmät päättävät milloin kieltäytyä poliittisesti arkaluonteisista pyynnöistä ja sovelletaanko näitä päätöksiä johdonmukaisesti.

Valvontaneuvosto vaatii enemmän läpinäkyvyyttä

Vastauksena havaintoihinsa valvontaneuvosto kehotti tekoälykehittäjiä tekemään systemaattisia ihmisoikeusarvioita osana mallien kehitystä ja käyttöönottoa.

Se kutsui myös tekoälyyrityksiä lisäämään läpinäkyvyyttä koulutusmenetelmistään ja arviointiprosesseistaan, perustellen että suurempi avoimuus auttaisi käyttäjiä ja tutkijoita ymmärtämään paremmin, miten poliittisesti arkaluonteista sisältöä käsitellään.

Tutkimus julkaistiin laajempien keskustelujen keskellä, jotka koskevat kehittyneiden tekoälyjärjestelmien hallintaa.

Aiemmin tällä viikolla Google DeepMindin toimitusjohtaja Demis Hassabis vaati Yhdysvaltojen johtaman tekoälyvalvojan perustamista, joka tarkastaisi kehittyneet tekoälymallit maailmanlaajuisesti ennen niiden käyttöönottoa.

Valvontaneuvoston raportti lisää käynnissä olevaa keskustelua tekoälyn turvallisuuden, poliittisen puolueettomuuden ja läpinäkyvyyden tasapainosta, ja viittaa siihen, että tapa, jolla mallit vastaavat poliittisesti arkaluonteisiin aiheisiin, voi vaihdella riippuen asianomaisten hallitusten toimista ja niissä vallitsevasta oikeudellisesta ympäristöstä.