Q:
Prečo by spoločnosť mohla vypnúť projekt AI chatbot?
A:Spoločnosti môžu z mnohých dôvodov vypnúť chatbot projekty v oblasti umelej inteligencie, ale tie najpravdepodobnejšie je možné zoskupiť do niekoľkých kategórií. Po prvé, spoločnosti môžu vypnúť chatbot technológie, ak konajú spôsobom, ktorý by mohol spoločnosť nepohodliť, ako je napríklad podpora nežiaducej reči. Spoločnosti môžu prípadne vypnúť projekt chatbot, ak začne demonštrovať vnímanie a schopnosti, ktoré buď nemožno ľahko ovládať, alebo môžu predstavovať určitý druh možného ohrozenia verejného zdravia a bezpečnosti.
Obidva tieto scenáre máme zdokumentované v nedávnej histórii. Experiment Microsoftu s Tay chatbotom sa skončil, keď Tay začal preberať niektoré z najhorších charakteristík svojich ľudských náprotivkov - rasistické a agresívne komentáre a všeobecne nepríjemnú aktivitu, z ktorých väčšina bola jasne získaná alebo dokonca parrotovaná priamo od používateľov.
Vo veľmi odlišnej prípadovej štúdii bolo nastavenie chatbotov, ktoré propaguje Facebook, ukončené, keď vedci pozorovali komunikáciu dvoch chatbotov spôsobom, ktorý bol do istej miery výlučný ľudskému pozorovaniu. Hovorilo sa, že entity chatbotov začali „hovoriť v nejakom kóde“, ktorý bol pre nich pohodlnejší a menej transparentný pre ich ľudské manipulátory. Toto je príklad toho veľmi skutočného záujmu o umelú inteligenciu všeobecne - že keď robíme veľké pokroky v postupe silnej umelej inteligencie, ľudia musia konať tak, aby obsahovali a kontrolovali všetky príklady implementácie AI, aby sa ubezpečili, že sa nedajú krížiť hranice. Existuje veľké množstvo etických problémov a bezpečnostných problémov, ktoré je potrebné riešiť pomocou silnej umelej inteligencie, a to je jeden z hlavných dôvodov, prečo môžu niektoré chatboty alebo iné projekty umelej inteligencie v budúcnosti zastaviť zainteresované strany, ktoré vybudovali a podporili ich prostredníctvom určitého procesu.
