Szingularitás frász(t)

Beszéljünk kicsit az AIról (mesterséges intelligencia, angolul artificial intelligence, innen a rövidítés), és a mostanában oly divatos Szingularitás paráról.

Science fictionöktől kezdve az újságok tech rovatán át a business analisteken át sokfelé lehet olvasni a közelgő szingularitásról. Szerintem átgondolatlan doomsday várás ez az egész.

Nullával nem lehet osztani...


A szingularitás eredeti megfogalmazása
A szingularitás eredeti (von Neumannra visszavezethető) felvetése a következő volt:
1. ha sikerül egy szuperintelligens AI-t készíteni, ami egy teljes hard AI, tehát motivációi meg minden effélék megvannak,
2. ez az AI akárcsak az emberek motivált lesz arra, hogy készítsen egy magánál is okosabb gépet.
3. ez lehetséges
Valószínűleg sikerülni fog neki, hisz az embernek is sikerült.
mivel okosabb, ezért gyorsabban fog sikerülni.
a szuper-szuper AI létrejön, aki úgyszintén motivált és képes lesz arra, hogy csináljunk egy szuper-szuper-szuper-AI-t és a ciklus ismétlődik.
Ezek az ultraszuper AI-k pedig majd olyan mértékben képesek feltalálni új dolgokat és fejleszteni a technológiát, hogy a technológia fejlődése szinte végtelenre gyorsul és az ember számára teljesen megérthetetlen, felfoghatatlan és kiszámíthatatlan lesz.
Na ezt nevezzük szingularitásnak.





Itt elég meggyőző, hogy az érvelés érvényes. Vagyis ha igaz az összes premissza, akkor tényleg reális esélye van, hogy egy szingularitás megtörténik. Azonban ezek a premisszák rendkívül valószínűtlennek tűnnek.
Az általános AIval sehogy sem állunk. A deep learningnek nagy a visszhangja, de meg se karcolja az önállóan kezdeményező, gondolkodó AI problémáját. Egyébként pár haladó kutató 4-5 éven belül újabb AI wintert vár.
AI winternek azt hívjuk, amikor az AI kutatók fellelkesítik a világot, rengeteg befektetőt és támogatási pénzt szereznek, aztán kiderül hogy egyáltalán nem halad úgy az AI fejlesztése, ahogy ígérték, megakadnak problémáknál, mire az egész világ és a piac csalódik a dologban és befagynak a kutatási pénzek az AI területén.
Az pedig hogy egy AInak bármi saját magától kitalált motivációja legyen az végképp science fiction.
De még ha sikerülne is a superintelligens AI-t megcsinálni mondjuk száz év múlva, semmi nem garantálja, hogy ez tovább fokozható.

Kitérő
Kis érveléstechnikai kitérő: ha egy érvelés helytálló (sound), akkor a következménye fennáll. Azonban egy érvelés két módon is elbukhat ezen: ha a következtetés érvénytelen (invalid) vagy ha a premisszák (feltételek) nem igazak.

Az a következtetés hogy "ha nyersz a lottón egy millió dollárt, ezért az életed végéig kényelemben élhetsz" egy teljesen érvényes következtetés, de nem helytálló, ugyanis szinte biztos, hogy nem nyersz a lottón.
Az a következtetés, hogy "ha sokat dolgozol, lesz egy millió forintod, ezért az életed végéig kényelemben élhetsz" pedig érvénytelen és így nem is helytálló, hiába valószínű, hogy össze tudna az ember spórolni egy millió forintot, abból nem fog élete végéig kényelemben élni.

A szingularitás új, maszatolós, megfogalmazása
Mostanában a szingularitásnak nem is szokták erőltetni ezt a szuperintelligens AI-s megfogalmazását. Inkább azt mondják, hogy a láthatáron van rengeteg olyan technológia, ami megváltoztatja az életünket, és egyre gyorsabban jönnek az innovációk, az elérhető számítási kapacitás is exponenciálisan nő, úgyhogy nyakunkon a szingularitás.

Nos itt a premisszákból visszavettek a hihető szintre. Azonban itt épp a következtetés érvényessége az, ami egyáltalán nem meggyőző.


Abból, hogy valóban változik körülöttünk a világ technológiák hatására, nem következik a szingularitás, vagyis az hogy emberi irányítás alól kicsúszva, ember számára felfoghatatlan technológiák egyre eszeveszetebb tempóban formálnák át életünket.

Azért, mert a technológia soha nem képes gyorsabban fejlődni, mint az emberi igények. Ez ilyen egyszerű. El vagyunk ájulva attól, hogy gyorsul a fejlődés. Nos, talán. Valamicskét. Arról lehet, hogy meg tudtok győzni, hogy azért a tudományos és az ipari forradalomnál valami vad dolog történt. Valami olyasmi ami több ezer éve nem és hogy az elmúlt háromszáz évben talán többet változott a világ, mint az azt megelőző háromezerben. Erről talán meggyőzhető vagyok.

De az egyáltalán nem biztos, hogy ezt nem fogja ismét egy hosszú, lassú, nyugalmas évezred vagy kettő követni. Ugyanis a két legutóbbi mindent felforgató hatalmas változást is pár évezrednyi nyugalom követte. Ugyanis nem most van először, hogy (mély, fenyegető hang): Minden Megváltozik!
Nagyon kevés adatunk van arról, hogy a neolit forradalom, a letelepedett mezőgazdaság megjelenése, milyen gyorsan is ment végbe, de nagyon is elképzelhető, hogy egy-egy régióban lezajlott pár száz év alatt. Ami azt jelenti, hogy ugyanolyan gyors változás volt és legalább annyira nagy hatású, mint a mostani.
Aztán ott van az írás és a fémművesség megjelenése és a szervezett államok kialakulása. Ez is mintegy két-három évszázad alatt zajlott le az egész közel kelet térségében. Ahol korábban neolit falvak álltak, ott hirtelen bürokratikusan irányított szervezett országok jelentek meg.

Szóval ne legyünk annyira eltelve azzal, hogy mennyire egyedi és különleges a mi korszakunk, és hogy biztos a mi életünk az, amikor az emberiség sorsa eddig soha nem látott mértékben és örökre megváltozik :P

Egyébként is elkerülhetetlen, hogy torz a történelmi sebesség érzetünk. Minél távolabbra nézünk vissza, annál kevesebb információja van (legalábbis az átlagembernek). Ez önmagában azt az érzetet kelti, mintha a történelem gyorsabban változna most, mint régen. Ráadásul a mai változásokat sokkal jobban értjük és ezért sokkal komolyabbnak érzékeljük, pusztán azért. Ez még egy illúzió.

Nézzük például az információs forradalmat. Csak úgy kapkodjuk a fejünket, mi? Százötven éve még csak távíró volt, aztán telefon meg rádió, aztán jött az internet, aztán meg már a mobiltelefonok, smartphone és web 2.0 világ...
Node valójában ez pont arról szól, hogy mennyire is lassú a fejlődés. Mert szigorúan véve egyetlen egy fejlődésről van itt szó: a Földgolyón átívelő azonalli kommunikációról. Ha visszautaznánk a 19. század végére, semmi nem akadályozna meg minket abban, hogy megszervezzük a helyi facebookot, ahol távírón az emberek üzengetnek egymásnak. Csak kellő pénz kérdése lenne, a technológiai tudás megvolt már hozzá.
És pont ez a kulcs: a pénz.

Nem arról van szó, hogy évtizedenként újab és újabb technológiák jönnek. Arról van szó, hogy egyetlen egy technológia 150 éve halad azon az úton hogy egyre nagyobb penetrációja legyen a társadalomban.
Nem az információs "forradalom" az egyetlen efféle eset. Nemrégiben egyik barátom kicsit utána nézett az 1890-es éveknek, és meglepve mesélte, hogy hány olyan technológia van, amire a szabadalmi jogot akkor jelentették be, és aztán a 20. század második felében kerültek csak valóban bevezetésre, vagy akár mostanában olvashatunk a tech rovatban róluk.

A technológia fejlődési ütemét nem a feltalálók intelligenciája fogja vissza, hanem a piaci életképesség, vagyis az emberek befogadókészsége, hogy megvegyék és használják az adott technológiát, az üzleti kreativitás, hogy hogyan tudják alkalmazni a technológiát, hogy megérje nekik és a gyártás olcsóbbítása.

Ez pedig egyértelművé teszi, hogy nem várható itt semmiféle szingularitás. Minden technológia legfeljebb olyan gyorsan fog fejlődni, amilyen sebességgel az emberek meg bírják érteni, hogy miért éri meg nekik megvenni, és amilyen sebességgel a megszokott kis napi rutinuk részévé képesek tenni.