Emeli añ kyýamaty golaýlap gelýär: Men täze robot hojaýynlaryma "Hoş geldiñiz!" diýýärin

EMELI AÑ KYÝAMATY GOLAÝLAP GELÝÄR: MEN TÄZE ROBOT HOJAÝYNLARYMA "HOŞ GELDIÑIZ" DIÝÝÄRIN

"Emeli añyñ çokundyryjy atasy" bu tehnologiýanyñ-robotlaryñ adam añynyñ ýeten derejesinden geçendigini we ahyrynda bizi öldürme netijesine geljek geljege öñbaşçylyk edip biljekdigini aýtdy.

Has howalaly kyýamat senarisi nähilikä? Megerem, meniñ zombileri diýseñ gowy görýänligim 2010-njy ýyllar töweregi bolup geçen uly zombi partlamasy wagtynda uniwersitetde okanlygymdan gelip çykýar.
Şol wagtlar zombi hakda söz açmaýan ýeke mediýa serişdesini tapmak mümkin däldi. Bäş ýylyñ dowamynda kafe-barlaryñ çilim çekilýän aýmançasynda daşary ýurtlylara "Eýse, señ pikiriñçe zombi kyýamatynda nädip ölmän galmaly?" diýen soragy bermek, umuman alanda "Ý nesiliñ" deñiz kommandosy tälimi ýalydy.
Häzirki wagt ýaşap ýören siwilizasiýamyzyñ ýuwaşlyk bilen çökmegi megefem Armageddonyñ ujypsyzrak täsin wersiýasy. Aýratynam häzirki ýagdaýyñ ýakynda ikinji fawori kyýamat senarim bolan jenaýatçy robotlaryñ gelmegi bilen wiýtjik bolup galjakdygyny aýdasym gelýär. Iñ bolmanda emeli añ ulgamyndaky işleri bilen "emeli añyñ çokundyryjy atasy" hökmünde tanalýan meşhur Geoffreý Hintonyñ pikiriçe ýagdaý şeýleräk ýaly.
Hinton "ChatGPT" ýaly häzirki emeli añ ulgamlarynyñ öñüni açan esasy tehnologiýamyñ kämilleşdirilmegine goşant goşan "Google"-daky wezipesinden öñräk öz islegi bilen çykyp gaýtdy. Görnüşinden-ä, eger çyn bolsa, ol adamzada emeli añyñ howplaryny duýdurmak üçin işinden çykypdyr.
Hinton kän wagt geçmänkä emeli añyñ galp fotosurat, wideo we tekst ýazgylarynyñ tupanyny döretmek üçin ulanyljakdygyna we munuñam halkyñ hakykat bilen ýasama maglumaty aýyl-saýyl edip bilmezlige getirjegine ynanýar. Emma uzagyndan has beterem bolup biler, çünki Hinton şeýle tehnologiýanyñ-robotlaryñ adam añynyñ ýeten derejesinden geçjekdigini we ahyrynda hemmämizi öldürmek netijesine gelip biljek geljege öñbaşçylyk edip biljekdigini öñe sürýär.
Hintonyñ ikinji çaklamasynyñ amala aşjakdygyna ymykly kepil geçip biljek däl, ýöne birinjisiniñ boljakdygyna-ha gümansyradyp oturmagyñ geregi ýok. "Galp habar" bilen (ýagny, utançsyz propoganda) muny esasan awtomatikleşdirip biljek ulgamlar ýüze çykmazdan öñem göreşýärdik. Adamlaryñ diñe ýalan maglumatlary twitleýändigini ýa-da ynamly däl habar saýtlarynyñ aşa tarapgöý ýa-da tosla habarlar ýazýandygyny däl, şol bir wagtyñ özünden hakykysyndan tapawutlandyryp bolmaýan ýasama fotosuratlar we wideoýazgylar ýaýran wagtynda ýagdaýyñ näderejede ýaramaz hala geljegini göz öñüne getirip görüñ. Birküç hepde öñ köpçüligiñ öñünde Rim papasyny uly we pöwhe repçiniñ penjegini geýen ýagdaýda görkezýän fotosuratyñ ýaýrandygy ýadyñyza düşýärmi? Meñ özüm iki günläp oña hakyky bolaýmasyn diýip pikir edip gezipdim. Bar, men ynanjañ eken diýeli, emma ýagdaý şu gidişine gitse, bu tehnologiýa ynanjañ däl adamlary-da çalt ynandyryp biljek derejede kämilleşjege meñzeýär.
Ýogsa-da, Hintonyñ robotlatyñ bizi keýpine gyryp-gyrjaşdyryp ýören terminatorpisint geljek hakdaky pikirlerine näme diýmeli? "Dogruçyl bolmaly bolsa, gulaga nähili geñsi eşidilýändigine garamazdan indi hiç zat meni geñ galdyrmasa gerek. Soñky on ýylyñ düzgüni şeýleräk boljaga meñzeýär: Bolup biläýjek iñ erbet, iñ az ähtimallykly zady göz öñüne getiriñ. Size öñünden aýtdygym bolsun, has erbet bir zat bolup geçer".
Hintonyñ düşündirişiniñ gükiünç bölegi megerem "Bu närsäniñ adamlardan has akylly bolup biljekdigi pikirine birnäçe adam ynandy. Emma köp adam munuñ entek-entek boljagyna ynananokdy. Munuñ azyndan 30-50 ýyl ýa-da ondanam köp wagtdan soñ boljakdygyny pikir edýärdim" diýen ýeri boldy.
Bir minit dursañyzlañ, emeli añ kyýamat güni senarisiniñ diñe otuz ýyl soñ bolup geçjekdigini pikir etdiñizmi we şonda-da işiñizi dowam etdirdiñizmi? Otuz ýyl "onçakly uzak wagt" däl-ä! Bu hiç zat! "Jurassic Park" otuz ýyl öñ çykypdy!
Hinton döredilmegine goşant goşan tehnologiýasynyñ ahyrsoñunda bizi ýok etjekdigine ynanýan ýeke-täk emeli añ hünärmeni däl. "OpenAI"-de dil modeli nobatlama toparyny dolandyrýan Paul Kristiano ýakyn wagtda gatnaşan podkastynda emeli añyñ adamzady gula öwrüp taşlajakdygyny we ahyrynda ymyjly ýok etme pikirine geljekdigini aýtdy.
Eýsem munuñ çykalgasy barmy? Emeli añy gadagan etmelimi? Ony tertibe salmak üçin birtopar kanunlary çykarmalymy? Syýasat bilen meşgullanýanlarymyz şindizem neonasistleriñ Twitterde agza toplamagyny ýa-da özleri bilen bir pikirde däl kişilere garşy duşmançylykly kampaniýalary guramagynyñ öñüni almagyñ alajyny tapmaýandyklary üçin beýtmek onçakly mümkin bolmajaga meñzeýär. Hökümet häzirem "AssassinBot 3000"-iñ daşyna geçmegiñ söz azatlygy hukugynyñ bozulmagy boljakdygy ýa-da bolmajakdygy pikirine gelip bilmän durka, biz "Skynet"-e girmän oñarys.
Bilýän bir zadym bar bolsa, olam şu: Kiber tanklar we duýgur lazer başnýalary instinktiw taýdan kanagatlandyryjy kyýamaty başdan geçirsegem, geçirmesegem, işçi güýji bazary az wagtyñ içinde çakdanaşa uly howp bilen ýüzbe-ýüz bolar. Munuñ özi Hintonyñ gysgaça durup geçen meselesi bolsa-da, megerem size, ýagny, okyja has köp täsir edip biljek zat.
Maña täsir etjekdigini anyk bilýän. Adamlaryñ ulanýan tekstleriniñ hiline, bu işi begenip emeli añ dil modeline ýerine ýetirtjek derejede az üsn berýänini bilen bolsam, ähli güýjümi ýazyjylyk işine bagyşlamazdym.
Howpsuzdygyñyzy düşünip bilersiñiz, emma algoritmiñ ygtyýaryna berilýän ugurda işleýän bolsañyz, ahyrsoñunda munuñ bolup geçjekdigine ynanyberiñ. Emeli añ çekjek çilimiñizi eliñizden almaz, işdeşleriñize jynsy zorluk hem etmez, onuñ bar talap etjek zady - siziñ bilýän zatlaryñyzdyr.
Häzirlikçe robotlaryñ güýçden gaçan we etli-ganly adam synalaryny çöplemäge gelip-gelmeýändiginiñ gürrüñini etmegiñ manysy ýok. Şek-şübhesiz, olar siziñ işiñizi eliñizden almak üçin gelýärler.

Raýan KUGAN.

Anna, 05.05.2023 ý.