Q:
Prečo niektorí odborníci tvrdia, že AI „zničí digitálnu autenticitu“?
A:Strojové učenie a umelá inteligencia rýchlo menia mnohé odvetvia a skutočne menia spôsob myslenia na technologický pokrok. Zapájajú sa však aj do zaujímavých dichotómií a rozporov týkajúcich sa vzťahu medzi našimi počítačmi a zariadeniami smartphone alebo inými novými rozhraniami, ktoré sa vyskytnú.
Jednou z veľkých otázok s umelou inteligenciou je, ako to ovplyvní „autentickosť“ - alebo ako ľudia overujú a potvrdzujú realitu, ktorá existuje, v „mäsovom priestore“ alebo v digitálnom svete. Keď sa skutočne pozriete na to, ako to funguje, vidíte vrodený rozpor medzi obmedzeniami našej technológie a spôsobmi, ktorým dôverujeme technológii, ktorú máme k dispozícii.
Jeden z najlepších príkladov možno nájsť v nedávnom článku s káblovým pripojením, ktorý ukazuje, ako ľudia s umelými inteligenciami a prostriedkami strojového učenia dokážu urobiť obraz pohybujúceho sa koňa a prekryť pruhy zebry v procese, ktorý autor nazýva „zebrafikácia“.
Je elegantný a nový, ale môže tiež predstavovať problém. Keď vidíte zebu na digitálnej obrazovke, ako viete, že je to zebra, a nielen kôň s pruhmi zebry, ktoré si na ňu šikovne dal nejaký technicky zdatný človek?
Mohlo by sa to zdať ako teoretická otázka, ale tie isté otázky sa čoskoro budú vzťahovať na správy, ktoré dostávame v digitálnej podobe - od politiky k ekonomike po náboženstvo, všetko sa bude spoliehať na našu schopnosť preosievať sa informáciami., overiť a rozlíšiť medzi pravdou a fikciou, medzi mýtom a realitou. Keďže nové nástroje umelej inteligencie ponúkajú viac spôsobov manipulácie s obrázkom a videom, bude to oveľa zložitejšie.
Ďalším vynikajúcim príkladom sú nové hlasové technológie. V článku pred niekoľkými rokmi sme sa zaoberali začínajúcim projektom IT, ktorý prevzal hlasy slávnych ľudí a postavil motory hlasového modelu, vďaka ktorým títo slávni ľudia môžu povedať niečo z hrobu.
Je to opäť úhľadná a zaujímavá technológia - zdá sa, že je to zábavný spôsob, ako používať technológie na spracovanie reči. Ale skutočne to bude predstavovať problém, keď urobíme skok zo starej analógovej a nedeformovanej digitálnej hlasovej technológie na nový syntetický a prefabrikovaný hlas. Ako budete vedieť, kto s vami hovorí - telefonicky, v televízii alebo priamo do ucha?
Konkrétne myšlienka pozmeniť zvuk, obraz a video sofistikovaným spôsobom môže vyzdvihnúť niektoré z našich najcennejších nápadov ako spoločnosti. Ako budú ľudia veriť tomu, čo počujú a vidia v politickom svete? A čo zákon - budú mať obvinení zo spáchania trestného činu nové typy odvolaní na základe možnej zmeny dôkazov?
Ďalším spôsobom, ako porozumieť niektorým z týchto problémov, je pozrieť sa na písanie sci-fi - od filmu „Fahrenheit 451“ od Ray Bradburyho až po „1984“ od Georga Orwella a neskôr nás rozprávači minulých vekov opakovane varovali, že technológia by sa mohla využiť v oboch prípadoch a problematické ciele. Jedným z dôvodov, prečo toľko odborníkov a vedúcich spoločností v oblasti IT požaduje „vysvetliteľnú umelú inteligenciu“ a etické panely, je skutočnosť, že rozumejú tomuto problému - že ak nebudeme kontrolovať technológie dôkladne, nebudeme im schopní dôverovať žiadnym rozsah. Namiesto toho, aby nám pomohli dosiahnuť naše ciele, mohli by nás nakoniec ublížiť, čiastočne tým, že spôsobili druhy spoločenského chaosu, ktorý existuje, keď nemôžeme skutočne zvládnuť pravdu a realitu. Dobrou správou však je, že technológie, ako je blockchain, ktoré poskytujú transakčné overovanie, môžu pomôcť pri použití v prípade digitálnych záznamov.
