Hinton az AI-irányítás kockázatairól beszél az uniós vezetőknek

• Geoffrey Hinton pénteken Dublinban szólal fel az Európai Tanács AI-csúcstalálkozóján. A brit-kanadai Nobel-díjas kutató a technológia lehetséges veszélyeiről tájékoztatja a kormányzati vezetőket; Hinton korábban is figyelmeztetett arra, hogy az AI képességei az emberi szint fölé emelkedhetnek.

• Paul Christiano szerint az irányítás elvesztése akár három éven belül bekövetkezhet. Az AI Alignment Research Center alapítója úgy látja, hat-tizenkét hónapos távlatban is számottevő a kockázat. A témát a torontói Hinton-előadásokon is vizsgálták, amelyeket az AI Safety Foundation szervezett.

• Christiano az emberi önrendelkezést és az életbiztonságot is veszélyeztetettnek tartja. Figyelmeztetése szerint az AI által okozott balesetek halálos áldozatokkal járhatnak, az irányítás elvesztése pedig az emberi önállóság csorbulását eredményezheti.

• Hinton korábbi és mostani időbecslései eltérnek. Korábban úgy beszélt arról, hogy a szuperintelligens rendszerek a következő tíz évben jelenhetnek meg, Christiano előadásai után azonban már a 18 hónapos lehetőséget is aggasztónak nevezte. Hinton szerint egy szuperintelligens rendszer irányítása komoly kihívást jelenthet az embereknek.

• A figyelmeztetések középpontjában az áll, hogy az AI képességei meghaladhatják az államokét. A szakértői vita így nemcsak a technológia fejlődési üteméről, hanem arról is szól, hogy az emberek és a kormányok képesek maradnak-e ellenőrzés alatt tartani a rendszereket.