Q:
Prečo sa niektorí ľudia obávajú umelej inteligencie?
A:Zmena nie je ľahká a veľa ľudí sa s ňou ťažko prispôsobuje. Platí to najmä o technologických zmenách. Známy profesor Harvardu Calestous Juma napísal knihu na tému „Inovácia a jej nepriatelia: Prečo ľudia odolávajú novým technológiám“. Kniha načrtáva napätie medzi inováciami a spoločenským poriadkom a čerpá zo 600 rokov histórie. Dopad technológie je obzvlášť problematický, pokiaľ ide o umelú inteligenciu.
Nie každý je na tieto pokroky nepriaznivý. Ray Kurzweil, autor knihy „Singularity is Near“ a „Age of Spiritual Machines“, nie je ničím menším ako evanjelizátorom propagujúcim výhody genetiky, nanotechnológie a robotiky (termín používaný pre nebiologickú inteligenciu). Ale to sú rovnaké problémy - a Kurzweil tá istá osoba -, ktoré v roku 2000 vyvolali veľké obavy pre Bill Joy, hlavného vedca spoločnosti Sun Microsystems.
Joy písal o svojich obavách v dnes slávnom článku v časopise Wired s názvom „Prečo nás nepotrebuje budúcnosť.“ Veril, že ide o samotnú budúcnosť ľudskej rasy. Pokiaľ ide o konkurenciu evolučnej histórie, Joy napísal: „Biologické druhy takmer nikdy neprežijú stretnutia s vynikajúcimi konkurentmi.“ Vedecké objavy, ktoré vedú k strojom, ktoré prekonávajú ľudí, predstavujú značné riziká. Prichádzajú na myseľ dystopická budúcnosť.
Predpokladajme, že vedci dokážu vyvinúť stroje s umelým dozorom (ASI), čo je úroveň inteligencie vyššia ako u ľudí. Radosť hovorí, že by sa mohla vyskytnúť jedna z dvoch vecí: Buď si stroje budú môcť robiť vlastné rozhodnutia, alebo si ich ľudia budú udržiavať pod kontrolou. Čo sa stane, keď stroju odovzdáte napájanie? Aké by mohli byť výsledky?
Bill Joy nie je jediný, kto vyjadruje svoje obavy. Tech guru Elon Musk povedal: „S umelou inteligenciou privolávame démona.“ Nazval ho „našou najväčšou existenčnou hrozbou.“ Fyzik Stephen Hawking povedal účastníkom technologickej konferencie, že „nemôžeme vedieť, či nám bude AI nekonečne pomáhať, alebo ignorované a bočné lemované alebo podľa možnosti zničené. “A povedal časopisu Wired:„ Obávam sa, že AI môže ľudí úplne nahradiť. “
Sú tieto obavy oprávnené? Sci-fi filmy ako „Transcendencia“, v ktorých sa postavy Johnnyho Deppa spájajú s umelou inteligenciou a spôsobujú chaos, pripomínajú Kurzweilove predpovede o tom, ako by sa ľudia mohli spojiť so strojmi. Predstavivosť sa šíri všetkými spôsobmi, ako by umelá inteligencia mohla pokaziť. Čo sa stane, keď stroje prevezmú kontrolu?
Dva príklady zo skutočného života ilustrujú, ako môžu byť obavy z umelej inteligencie pochopiteľné. V roku 2007 robotické delo zabilo deväť ľudí a zranilo 14. Niektoré pokročilé vojenské zbrane automaticky vyberú svoje ciele, ale čakajú, kým človek nestiahne spúšť. Kto tu rozhodoval? V roku 2016 sa 300-kilobajtový bezpečnostný robot zrazil a prešiel cez šestnásťmesačné batoľa. Kto mal v tomto prípade kontrolu: človek alebo stroj?
Dôvodom, prečo sa niektorí ľudia obávajú umelej inteligencie, je skutočnosť, že riziká sú skutočné. Ďalšia otázka: Ako zvládneme tieto riziká?
