Domov audio Prečo je darpa výskumom vysvetliteľné ai?

Prečo je darpa výskumom vysvetliteľné ai?

Anonim

Q:

Prečo DARPA skúma „vysvetliteľné AI“?

A:

Vo všeobecnosti sa vysvetliteľná umelá inteligencia stáva veľmi ohlasovanou súčasťou špičkovej práce v oblasti dátových vied. Pomáha usmerňovať ľudskú kontrolu nad prirodzene nestabilným a dynamickým typom technológie - vysvetliteľná AI pomáha zodpovedať veľa našich kolektívnych otázok o tom, ako bude fungovať umelá inteligencia.

Aby sme porozumeli vysvetliteľnej AI, pomáha pochopiť, ako vyzerá „bežné AI“. Keď sa AI začína formovať, typický projekt sa tradične skladá z fantastickej novej softvérovej schopnosti, ktorá je ukrytá v algoritmoch a školiacich súboroch a lineárnom kóde, čo je pre používateľov akýsi „blokový box“. Vedia, že to funguje - jednoducho nevedia, ako presne.

To môže viesť k „problémom s dôverou“, keď používatelia môžu spochybňovať základ, na ktorom sa technológia rozhoduje. To je to, čo by sa malo vysvetliť na vysvetliteľnej AI: Vysvetľiteľné projekty AI sa dodávajú s dodatočnou infraštruktúrou, aby koncovým používateľom ukázali zámer a štruktúru AI - prečo robí to, čo robí.

V dobe, keď špičkoví inovátori, ako sú Bill Gates a Elon Musk, vyjadrujú obavy z toho, ako bude fungovať umelá inteligencia, sa zdajú vysvetliteľné AI mimoriadne atraktívne. Odborníci tvrdia, že dobrá vysvetliteľná AI by mohla pomôcť koncovým používateľom pochopiť, prečo technológie robia to, čo robia, zvyšujú dôveru a tiež zvyšujú ľahkosť používania a využívania týchto technológií.

Konkrétne však DARPA osobitne vysvetľuje, prečo sa zaujíma o nové projekty. Stránka DARPA ukazuje, že ministerstvo obrany predpokladá „prúd“ aplikácií umelej inteligencie a určité množstvo chaosu vo svojom vývoji.

„Pokračujúci pokrok sľubuje vytvorenie autonómnych systémov, ktoré budú vnímať, učiť sa, rozhodovať a konať samostatne, “ píše David Gunning. „Účinnosť týchto systémov je však obmedzená súčasnou neschopnosťou stroja vysvetliť svoje rozhodnutia a kroky ľudským používateľom. … Vysvetľiteľná umelá inteligencia - najmä vysvetliteľné strojové učenie - bude nevyhnutná, ak majú budúci bojovníci porozumieť, primerane dôverovať a efektívne riadiť vznikajúcu generáciu umelo inteligentných strojových partnerov. “

Online esej spoločnosti Gunning naznačuje, že vysvetliteľné systémy AI pomôžu „poskytnúť zdôvodnenie“ technológiám, ukázať ich silné a slabé stránky a sprehľadniť prípady použitia. Graf na tejto stránke ukazuje, ako by sa priamočiara funkčnosť umelej inteligencie z tréningových údajov rozšírila o niečo, čo sa nazýva vysvetliteľný model a vysvetliteľné rozhranie, ktoré pomôžu používateľovi odpovedať na otázky. Gunning ďalej navrhuje, aby vysvetliteľný program AI mal dve hlavné oblasti zamerania - jedným by bolo preosievanie prostredníctvom multimediálnych údajov, aby sa zistilo, čo je užitočné pre používateľov, a druhým zameraním by bola simulácia rozhodovacích procesov na podporu rozhodovania.

DARPA dúfa, že poskytne „súbor nástrojov“, ktorý môže pomôcť pri vývoji budúcich vysvetliteľných systémov AI.

Prečo je darpa výskumom vysvetliteľné ai?