Môžete dôverovať AI? Mali by ste akceptovať jeho zistenia ako objektívne platné bez pochybností? Problém je v tom, že ani spochybnenie samotnej AI by neprinieslo jasné odpovede.
Systémy AI vo všeobecnosti fungujú ako čierna skrinka: Dáta sú vstupné a výstupné, ale procesy, ktoré ich transformujú, sú záhadou. To vytvára dvojaký problém. Jedným z nich je, že nie je jasné, ktoré algoritmy sú najspoľahlivejšie. Druhým je, že zdanlivo objektívne výsledky môžu byť skreslené hodnotami a zaujatosťou ľudí, ktorí programujú systémy. To je dôvod, prečo existuje potreba transparentnosti pre procesy virtuálneho myslenia, ktoré tieto systémy používajú, alebo „vysvetliteľnú inteligenciu“.
Etický imperatív sa stal právnym požiadavkou pre každého, kto podlieha GDPR, ktorý ovplyvňuje nielen podniky so sídlom v EÚ, ale všetky podniky, ktoré tam konajú s ľuďmi alebo organizáciami. Obsahuje niekoľko ustanovení o ochrane údajov, ktoré sa vzťahujú na občanov EÚ „právo nebyť predmetom automatizovaného rozhodovania, s výnimkou určitých situácií“ a „právo na poskytnutie zmysluplných informácií o logike zapojenej do rozhodnutia . "
