Jako člověk

Vývoj umělé inteligence (AI) směřuje k vytváření strojů, které zvládají stále větší díl kognitivních činností odkazujících k uvažování
a rozhodování, které dosud spojujeme výhradně
s člověkem. Tento vývoj může být ještě dlouhý,
neměli bychom však nabývat dojmu, že cíle, ke
kterým směřuje, jsou nedosažitelné. Stroje, v jejichž činnosti budou inteligentní rysy a schopnosti zvládnuty, mohou hrozivým způsobem
ovládnout rozhodování v reálném světě a sledovat vlastní cíle vyplývající z jejich programového vybavení i z jejich užití pro ovládání
a manipulování společnosti. Potenciálním nebezpečím není jen AI destruující lidskou společnost, ale zejména taková AI, kterou navíc
nebude možné vypnout bez ohledu na to, že
užitek, který sleduje, přestal být člověku prospěšný a člověkem ovladatelný. Stuart Russel,
autor jedné z nejvlivnějších dnes užívaných
učebnic AI, přichází v této knize s konceptem
„doložitelně prospěšné“ AI, o jejíž algoritmech
bude možné matematicky dokázat, že sledují
cíle prospěšné jejich lidským uživatelům.