Ahogy mostanában egyre több robottal találkozhatunk mind a hírekben, mind személyesen, felerősödtek a félelmek azzal kapcsolatban, hogy a mesterséges intelligencia (MI) rohamos terjedése veszélybe sodorhatja az emberi civilizációt. A robotok átveszik a hatalmat, rabszolgasorsba taszítják megalkotóikat: ismerősek ezek a borús víziók a hollywoodi kasszasikerekből. Híres tudósok és vállalkozók - köztük Stephen Hawking elméleti fizikus és Elon Musk vállalkozó, a Tesla Motors és a SpaceX vezetője - nyílt levélben figyelmeztettek a mesterséges intelligencia olyan potenciálisan veszélyes alkalmazásaira, mint az automatikus fegyverrendszerek kifejlesztése és a magánszféra feletti ellenőrzés megszerzése.
Más kutatók ugyanakkor azt mondják: a legijesztőbb dolog az lenne, ha leállítanánk a mesterséges intelligenciával kapcsolatos kutatásokat. Yolanda Gil, a Dél-Kaliforniai Egyetem kutatója a DARPA nemrégiben megrendezett Wait, What? technológiai fórumán tartott előadásában úgy fogalmazott: "ha egyáltalán félnem kell valamitől, akkor az emberektől jobban félek, mint a gépektől".
Az amerikai Computerworldnek nyilatkozó Trevor Darrell, a berkeley-i Kaliforniai Egyetem számítógép-tudományi professzora úgy véli, az átlagember több mesterséges intelligenciával kapcsolatos fejlesztéssel fog találkozni az elkövetkezendő tíz évben, mint az elmúlt ötvenben. Öt-tíz éven belül olyan gépeket fogunk használni, amelyek egyre jobban képesek lesznek megérteni az embereket és kommunikálni velük, továbbá alapvető ismeretekkel rendelkeznek majd a környezetükről. Olyasmit kérhetünk majd intelligens autónktól, hogy vigyen el minket kedvenc kávézóláncunknak abba az üzletébe, ahol a legrövidebb a sor.
Attól félünk, hogy elveszítjük az ellenőrzést az MI rendszerek felett, fogalmazta meg az emberek aggályait Tom Dietterich, az Oregoni Állami Egyetem Intelligent Systems részlegének igazgatója. Mi történik ugyanis, ha egy hiba következtében törni-zúzni kezdenek, és nem tudjuk leállítani őket? Ezért feltétlenül képesnek kell lennünk az irányításukra, bármi történjék is. Meg kell tudni akadályoznunk továbbá, hogy az MI rendszereket kibertámadások érjék, módszereket kell kidolgozni arra, hogy miképpen lehessen figyelmeztetni a hálózatot ¬- mind az embereket, mind a gépeket - ha egy támadás van kibontakozóban. Dietterich szerint az MI rendszereket nem szabad teljesen önálló működésűvé tenni, az emberek nem kerülhetnek olyan helyzetbe, hogy a gépeknél legyen a teljes irányítás.
Hasonlóan vélekedik Darrell is, aki szerint emberi és gépi rendszereknek folyamatosan felügyelniük kell, hogy mi történik. Ugyanúgy, ahogy meg akarjuk akadályozni, hogy hackerek irányításuk alá vonják az összes okosautót, és tömegkatasztrófát okozzanak velük, korlátokat kell állítanunk az MI rendszerek számára is.
