Yhden maailman tehokkaimman tekoälyn kehittäneistä tutkijoista on päättänyt jättää AI-alan taakseen. Nyt hän kertoo, millaisia järisyttäviä vaikutuksia sillä saattaa olla ihmiskunnan tulevaisuudelle.
Tutkija Jacob Coxon, 27, on työskennellyt tekoälytutkimuksen parissa suurissa yhtiöissä, kuten OpenAI:ssa ja Anthropicissa.
Sen jälkeen, kun hän työskenetli Anthropicille – yritykselle joka tunnetaan etenkin turvallisuuteen ja valvontaan keskittyvän tekoälyn kehittämiseen – hän päätti, ettei voi enää jatkaa alalla.
Coxon kertoi tiistaina X:ssä irtisanoutuneensa tehtävästään ja jakoi samalla vakavan, järkyttävän väitteen siitä, mitä seuraavaksi voisi tapahtua.
Tutkijan mukaan tekoälyfirmat käytännössä ”uhkapelaavat hengillämme.”
”Irtisanouduin Anthropicista tänään. Vietin viimeiset kolme vuotta tekemällä esikoulutustutkimusta sekä OpenAI:ssa että Anthropicissa. Kumpikaan yritys ei toimi vastuullisesti. Ne kilpajuoksevat suoraan itsenäisesti kehyttyvää superäly kohti ja pelaavat samalla uhkapeliä hengillämme”, Coxon aloittaa kirjoituksessan.
”Älkää aliarvioiko tämän teknologian voimaa. Nämä ovat pian yli-inhimillisiä järjestelmiä, jotka voivat hakkeroida mitä tahansa, mullistaa minkä tahansa alan yhdessä yössä ja hankkia todellista valtaa ja resursseja. Olemme kaikki todistaneet kuinka edistystä on tapahtunut jokaisella näistä osa-alueista, eikä se ole hidastumassa.”
Tekoälyasiantuntijan järkyttävä varoitus ihmiskunnalle
”Tekoälyä rakentavat ihmiset uskovat vilpittömästi, että se voisi tappaa meidät kaikki vuosikymmenen loppuun mennessä. Tämä ei ole markkinointikikka”, Coxon jatkoi tekstissään.
Monet johtajat ja vanhemmat tutkijat muotoilevat sanomisensa lehdistölle niin, että ne kuulostavat järkevältä, mutta kuulen samojen ihmisten jakavan pelkonsa tekoälystä yksityisesti. Mikään muu inhimillinen toiminta ei altista ihmisiä tälläiselle vaaran tasolle.”
Jacob Coxon väittää myös, että Anthropic ymmärtää monet vaaroista paremmin kuin jotkut kilpailijansa.
Tekoälyyritysten välinen kilpailu on kuitenkin kovaa ja ajaa kaikkia kehittämään toimintaansa nopeammin, joka puolestaan on lisää uhkaa.
Liian nopea kehittäminen saattaa Coxonin mukaan aiheuttaa sen, että turvatoimet jäävät pian jälkeen tekoälyn muuttuess.
Myös muut tekoälytutkijat ovat esittäneet samanlaisia huolia. Anthropicin turvallisuustutkija Evan Hubinger kirjoitti myös X:ssä, ja otti kantaa Coxonin ajatuksiin.
”Jacob on tässä oikeassa – me todella vilpittömästi uskomme, että tekoäly voisi tappaa kaikki ihmiset! Henkilökohtaisesti arvioin todennäköisyydeksi yli 10 % seuraavan vuosikymmenen aikana. Uskon, että Anthropic yrittää parhaansa, mutta meillä ei vielä ole suunnitelmaa supertekoälyn kohdistamisongelman ratkaisemiseksi, emmekä selvästi ole oikealla tiellä sen suhteen”, Hubinger kirjoitti.
Kasvava keskustelu
Coxonin päätös jättää ala taakseen on nostanut esille kysymyksen siitä, mikä rooli tekoälyllä todella pitäisi olla elämässämme.
Kekustelu onkin jakautunut pitkälti kahteen leiriin jo vuosien ajan. Jotkut pelkäävät, että yhä tehokkaampi tekoäly voisi korvata miljoonia työntekijöitä, muuttaa työmarkkinat pysyvästi ja jättää monet ihmiset kamppailemaan jopa yksinkertaisten töiden löytämiseksi.
Toiset taas uskovat tekoälyn tekevän päinvastoin – luovan kokonaan uusia toimialoja ja työpaikkoja samalla kun se antaa ihmisten keskittyä työhön, jota koneet eivät helposti voi korvata.
Aika näyttää, mitä tulee tapahtumaan.
Mitä mieltä olet Jacob Coxonin kirjoituksesta ja tekoälystä? Jatketaan keskustelua Facebookissa!
LUE MYÖS:
