Obsah:
- Definícia - Čo znamená hodnota Value Learning Problem?
- Techopedia vysvetľuje problém s hodnotovým učením
Definícia - Čo znamená hodnota Value Learning Problem?
Problém s hodnotovým učením je špecifický základný problém vo vývoji technológií strojového učenia a umelej inteligencie, ktoré sa zaoberajú rozdielom medzi ľuďmi a počítačmi a spôsobmi, ktoré si myslia.
Stručne povedané, problém s hodnotovým učením je založený na tom, aké ťažké je pre počítače, aby zistili, čo majú „hodnotiť“ (pokiaľ ide o údaje aj politiku) a ako konať v strojovej vzdelávacej sieti a ako môžu programátori optimalizovať, ako program koná tak, aby zodpovedal ich pôvodným zámerom, keď ho vytvorili.
Techopedia vysvetľuje problém s hodnotovým učením
Kľúčom k problému s hodnotovým učením je, že je nesmierne dôležité, aby programátori mohli vytvárať programy strojového učenia, ktoré vykonávajú zamýšľané hodnoty. Úlovok 22 je však taký, že hodnoty nie je možné výslovne uviesť spôsobmi, ktoré bránia samotnému vzdelávaniu v programe.
Ľudia niekedy hovoria o „konvergencii“ technológií strojového učenia ako o úspešnom zameraní sa na hodnotové údaje, ale problém s hodnotovým učením sa v niektorých ohľadoch trochu líši. Je to myšlienka, že musí existovať nejaký základný spôsob, ako ukázať, čo je požadované, strojovému vzdelávaciemu programu, a nie iba jeho napísanie, čo je deterministický spôsob prevádzkovania ML.
Vezmite si napríklad tento dokument o probléme s hodnotovým učením, ktorý naznačuje, že programy strojového učenia by mohli mať úložný súbor vstupov ukazujúci pozitívne ľudské reakcie na podnety. Pri čítaní týchto typov adries na problém s hodnotovým učením je zrejmé, že v strojovom učení existuje veľká medzera, ktorú nie je ľahké opraviť - v podstate - ako ľudia vytvárajú stroje, ktoré skutočne myslia ako ľudia? Ďalším spôsobom, ako to vysvetliť, je to, že problém s hodnotovým učením ide do jadra toho, ako myslíme ako ľudí, a ako naše myšlienky nie sú vždy založené na vstupoch rote.
Počítače modelujú našu intuíciu, náš inštinkt, naše sociálne sklony a naše najhlbšie etické hodnoty, to je vysoký poriadok, aj keď sa počítače môžu naučiť hrať šach ľudským spôsobom, alebo nás prekonávať pri riešení zložitých matematických problémov. Odborníci môžu očakávať, že program výučby hodnoty bude aj naďalej ústredným bodom pri vývoji technológií strojového vzdelávania.
