Zinātnieki bažījas, ka mākslīgais intelekts izmantos taktiku, lai “pakāpeniski atņemt spēkus” cilvēcei.
Iespēja, ka cilvēce var iznīkt straujās mākslīgā intelekta (AI) attīstības dēļ, ir “vismaz 95%”, ja netiks mainīts pašreizējais kurss. Šādu viedokli pauda bijušais Google un Microsoft inženieris, tagadējais Mašīnu intelekta pētniecības institūta vadītājs Nets Soares.
Pēc Soaresa teiktā, pašreizējā situācija atgādina automašīnu, kas traucas uz bezdibenī ar ātrumu 100 kilometri stundā: laika pārdomām paliek arvien mazāk. Viņš ir pārliecināts, ka, saglabājot pašreizējās tendences, izredzes izvairīties no katastrofas ir praktiski nulles.
Šīs bažas dala arī vadošie pasaules zinātnieki. Starp viņiem ir Nobela prēmijas laureāts Džefrijs Hintons, pazīstamais matemātiķis Jošua Bengio, kā arī OpenAI, Anthropic un Google DeepMind vadītāji. Visi viņi parakstījuši kopīgu paziņojumu, kurā uzsvērts, ka AI radītā drauda jāuzskata par līdzvērtīgu globālām epidēmijām un kodolieročiem.
Galvenais ekspertu bažu avots ir perspektīva, ka varētu parādīties tā saucamais superinteliģents AI (ASI). Šāds mākslīgais intelekts spēs ne tikai plānot un maldināt, bet arī izkļūt no kontroles, rīkojoties pretēji cilvēku interesēm. Jau šodien algoritmi demonstrē spēju manipulēt un melot, turklāt to iekšējie procesi paliek necaurspīdīgi pat to izstrādātājiem.
Daži speciālisti brīdina, ka cilvēces pilnīga izmiršana nav vienīgais scenārijs. Ne mazāk reāla ir arī cita drauds: pakāpeniska cilvēku neatkarības un ietekmes zaudēšana apstākļos, kad galvenos lēmumus pieņems mašīnas. Šādā pasaulē cilvēks riskē kļūt par lieku elementu savā civilizācijā.
Atgādināsim, ka “Cursor” rakstīja par to, ka hakeris ar pseidonīmu “Plinijs Atbrīvotājs” izveidoja mākslīgā intelekta (AI) modeli, kas spēj veikt uzdevumus Darknet, tostarp nolīgt slepkavas. Eksperiments, kas tika nosaukts par “Aģents 47”, kļuva par šokējošu piemēru tam, kā modernās tehnoloģijas var tikt izmantotas noziedzīgiem mērķiem.
