Tehisintellekti areng on viimastel aastatel olnud erakordselt kiire ja paljud teadlased on hakanud nüüd aina enam muretsema selle võimalike tagajärgede pärast. Üha enam eksperte räägib nn singulaarsusest, mida esimesena mainis 1993. aastal arvutiteadlane ja ulmekirjanik Vernor Vinge, ennustades, et kolme aastakümne jooksul loob inimene intelligentsi vormi, mis ületab meie enda taseme.
„Inimkonna ajastu lõppeb varsti pärast seda,“ ütles Vinge. Nüüd ongi see aeg käes ja üsna täpselt kolm aastakümmet hiljem on meil vestlusrobotid, pildigeneraatorid ja automaatika, mis püüdlevad kunstliku üldintellekti (AGI) suunas – see suudaks juba lahendada kõikvõimalikke intellektuaalseid ülesandeid sama hästi kui inimene.
AGI arendamine võib viia superinimese intelligentsi loomiseni, mis omakorda toodab uusi avastusi ja tehnoloogiaid murrangulise kiirusega.
Teadlased soovitavad ette kujutada hüpoteetilist tehisaru süsteemi, mis on parem kui ükski reaalse maailma arvutiteadlane. Kui selline süsteem hakkab omakorda paremaid tehisaru süsteeme looma, võib tulemuseks olla selle võimete eksponentsiaalne ehk plahvatuslik kasv.
See võib osutuda meie jaoks suureks probleemiks, sest me ei suuda täielikult mõista, miks paljud tehisintellektid käituvad nii nagu nad käituvad.
Hiljutine teadustöö viitab sellele, et me ei suuda kunagi usaldusväärselt ennustada, mida AGI suudab teha. Selle võimeta ei suuda me seda ka usaldusväärselt kontrollida.
Tagajärjed võivad olla katastroofilised. 2022. aasta keskel läbi viidud uuring AI Impacti mõttekojas näitas, et teadlased on selles küsimuses lõhenenud: 33 protsenti uskus, et singulaarsuse-laadne stsenaarium on tõenäoline või üsna tõenäoline, samas kui 47 protsenti leidis, et see on ebatõenäoline või üsna ebatõenäoline.
Paljud teadlased, nagu Sameer Singh California Ülikoolist muretsevad, et AGI-le keskendumine viib tähelepanu eemale tehisaru juba praegu põhjustatud probleemidelt, nagu rassistlikud, seksistlikud ja valefaktidega seotud tulemused, samuti autoriõigustelt ja andmekaitselt.
Arvutiteaduse teerajajad Geoffrey Hinton ja Yoshua Bengio on hiljuti väljendanud kahetsust valdkonna praeguste arengute üle, mis nende arvates on kontrolli alt väljumas. Mõned teadlased on kutsunud üles ka kuuekuulisele pausile tehisaru süsteemide arendamisel, mis on võimsamad kui OpenAI loodud keelemudel GPT-4. Samas ei peeta seda üht ajavahemikku – olgu see kuus kuud, üks aasta või kaks aastat – piisavaks lahenduseks.
Tehisintellekti areng on kiire ja selle tulevik on täis nii võimalusi kui ka ohtusid. Teadlaste mureks on, et kui kunstmõistus muutub liiga targaks, võib inimkonna kontroll selle üle kaduda, mis võib viia ettearvamatute ja potentsiaalselt katastroofiliste tagajärgedeni. Seega on viimane aeg tõsiselt kaaluda, kuidas me selle tulevikuga toime tuleme.