Q:
Prečo niektoré spoločnosti uvažujú o pridaní „kontroly ľudskej spätnej väzby“ k moderným systémom AI?
A:Niektoré spoločnosti, ktoré pracujú s najmodernejšou technológiou AI, pracujú na zavedení ľudských kontrol pre tieto systémy, pričom poskytujú strojovému učeniu a nástrojom hĺbkového vzdelávania určitý priamy ľudský dohľad. Ani tieto spoločnosti nie sú malými hráčmi - DeepMind od spoločnosti Google a OpenAI spoločnosti Elon Musk's OpenAI sú dva príklady veľkých spoločností, ktoré sa zaoberajú pokrokom v oblasti umelej inteligencie. Z tohto hľadiska sa výsledky líšia - napríklad DeepMind bol predmetom kontroverzie pre svoju vnímanú neochotu poskytovať kľúčové údaje verejnosti, zatiaľ čo OpenAI je oveľa otvorenejšie, pokiaľ ide o svoju prácu v oblasti kontroly umelej inteligencie.
Dokonca aj takí významní činitelia, ako Bill Gates, túto záležitosť zvážili, tvrdí, že je jedným z mnohých, ktorí sa obávajú vzniku umelej superinteligencie, ktorá sa môže v niektorých ohľadoch posunúť mimo ľudskú kontrolu. Musk pre svoju časť tiež vydal alarmujúci jazyk o možnosti „nečestnej umelej inteligencie“.
Toto je pravdepodobne najnaliehavejší dôvod, prečo spoločnosti pracujú na použití ľudských kontrol na AI - myšlienka, že určitá technologická jedinečnosť vyústi do super-výkonnej vnímajúcej technológie, ktorú ľudia jednoducho nemôžu ovládať. Už od úsvitu ľudských ambícií sme zaviedli nástroje na zaistenie toho, aby sme mohli ovládať právomoci, ktoré máme - či už sú to kone s otáčkami a postrojmi, elektrina v izolovaných drôtoch alebo akýkoľvek iný druh kontrolného mechanizmu, ktoré majú kontrola je vrodená ľudská funkcia, a preto dáva zmysel na svete, že ako sa umelá inteligencia približuje k skutočnej funkčnosti, ľudia uplatňujú svoje vlastné priame kontroly, aby túto moc udržali pod kontrolou.
Strach z mimoriadne inteligentných robotov však nie je jediným dôvodom, prečo spoločnosti uplatňujú ľudské kontroly na strojové učenie a projekty umelej inteligencie. Ďalším hlavným dôvodom je zaujatosť stroja - to je myšlienka, že systémy umelej inteligencie sú často obmedzené v tom, ako hodnotia príslušné údaje - tak, že zosilňujú akúkoľvek zaujatosť obsiahnutú v systéme. Väčšina odborníkov, ktorí sa zaoberajú strojovým učením, môže rozprávať hororové príbehy o IT systémoch, ktoré neboli schopné liečiť skupiny používateľov s ľuďmi - či už to bolo rodové alebo etnické rozdiely alebo nejaké iné zlyhanie systému skutočne pochopiť nuansy našich ľudských spoločností a ako komunikujeme s ľuďmi.
V určitom zmysle by sme mohli na systémy umiestniť ľudské kontroly, pretože sa obávame, že by mohli byť príliš silné - alebo alternatívne, pretože sa obávame, že by neboli dosť silné. Ľudské kontroly pomáhajú zacieliť súbory údajov strojového učenia, aby sa zabezpečila väčšia presnosť. Pomáhajú posilňovať myšlienky, že počítač sa jednoducho nemôže učiť sám o sebe, buď preto, že model nie je dosť sofistikovaný, pretože AI nepostupoval dosť ďaleko, alebo preto, že niektoré veci ležia iba v provincii ľudského poznania. Umelá inteligencia je pre niektoré veci skvelá - napríklad systém založený na odmenách a skóre umožnil umelej inteligencii poraziť ľudského hráča v nesmierne zložitej stolnej hre Go, ale pre iné veci je tento systém založený na stimuloch úplne neadekvátny.
Stručne povedané, existuje veľa presvedčivých dôvodov na to, aby sa ľudskí používatelia priamo zapájali do fungovania projektov umelej inteligencie. Dokonca aj tie najlepšie technológie umelej inteligencie dokážu veľa premýšľať samy o sebe - ale bez skutočného biologického ľudského mozgu, ktorý dokáže spracovať veci, ako sú emócie a spoločenské morálky, jednoducho nemôžu ľudským spôsobom vidieť veľký obraz.
Kvalifikovaná spoločnosť zameraná na strojové vzdelávanie môže pomôcť dosiahnuť túto rovnováhu kombináciou odborníkov z oblasti podnikania a predmetu a vývojárov strojového učenia so schopnosťami riešiť veľké obchodné problémy.
