Marius Leordeanu: az AI fő veszélye az emberi döntések kiszervezése

• Marius Leordeanu szerint a mai AI-rendszerek nem rendelkeznek tudattal vagy önálló életakarattal, így saját kezdeményezésükből nem képesek az emberiség elpusztítására.

• A fő veszély az, hogy az emberek — köztük a mérnökök és programozók — vakon megbíznak a rendszerekben, rájuk bízzák a gondolkodást és a döntéseket, ami felszínességhez és súlyos hibákhoz vezethet.

• A nyelvi modellek működése Leordeanu magyarázata szerint a következő szó előrejelzésén és hatalmas adatmennyiségek mintázatain alapul. A gördülékeny megfogalmazás önmagában nem bizonyít koherens gondolkodást vagy a fizikai világ valódi megértését.

• A tudatosság a professzor szerint a fizikai testhez, a fájdalomhoz és a túlélési ösztönhöz kötődik; az AI-nak ezek hiányában nincs saját szándéka vagy késztetése az életben maradásra.

• A szabályozás szükségessége a piaci versenyből fakad: Leordeanu szerint a vállalatok nem tudják önállóan fékezni a fejlesztést, mert ezzel versenytársaiknak adnának előnyt. Külső jogi keretekre és részletes biztonsági tesztekre van szükség.

• A romániai AI-kutatás jelentős nemzetközi konferenciákon is jelen van, de a professzor szerint a fő kihívás az, hogy az akadémiai ötletekből és prototípusokból széles körben alkalmazható, kereskedelmi termékek szülessenek.