A Neumann Társaság blogja az informatika, robotika legmenőbb témaköreiről – újszerű megközelítésben.

Kvantumugrás

Kvantumugrás

Katasztrofálisan felejt a gépi értelem

2021. május 26. - ferenck

Emlékszel még a szörnyű iskolai szorzótáblára? A matektanár naponta jött a számokkal és a többszörösükkel, heteken keresztül naponta újakat kellett megtanulnod, idővel azt hihetted,  hogy elfelejtetted az alapokat. Teljes káoszt láttál az agyadban, de a sokkal „borzalmasabb” újabb fogalmak bevezetésekor, valahonnan mégis előjött az egyszerűbb szorzás, hasznosítottad a megtanultakat, majd az újabb anyagokat is.

Ugyan sokat felejtettél, de a lényeg elraktározódott, be tudtad építeni a gondolkodásodba, hasznosítottad a későbbi (akár életen keresztül tartó) tanulásnál, intelligenciád állandó része lett. A szorzótábla emléke benned él, bonyolultabb feladatok megoldásában segít. Matektanárod a korábban elsajátított ismereteken alapuló folyamatos tanulásra készített fel vele.

cfo2.jpg

A mesterséges intelligenciák elvileg az emberhez hasonló módon próbálnak tanulni, de azt a bizonyos szorzótáblát csak az adott feladat megoldásánál képesek hasznosítani, ha később egy másik feladatot bízunk rájuk, kezdhetik elölről az egyszeregyet.

cfo1.jpg

A ma működő összes MI-rendszer az intelligenciának valójában csak egy-egy szikráját, darabkáját villantja fel. Egyelőre és még sokáig nem attól kell tartanunk, hogy a világuralomra törő gépi értelem leigázza az embert, hanem jóval prózaibb dolgoktól: a fejlett társadalmak működése számos területen ezektől a rendszerektől függ, amelyek sajnos nagyon buták még, ráadásul a rosszul kiválasztott gyakorlóadatok miatt esetenként előítéletesek is.

cfo0.jpg

Egy kisgyerek simán felismer egy cicát, mondatokat tud formálni, és magától rájön egy okostelefon alapfunkcióinak a használatára. Egy mesterségesintelligencia-algoritmussal hiába próbáljuk megoldatni a három feladatot, nem fog sikerülni neki. Maximum akkor, ha külön-külön megtanítottuk neki mindhármat, de együttesen akkor sem tud nagyon mit kezdeni velük. Nem jó a folyamatos tanulásban, egymástól távoli adatfolyamok összekapcsolásában, a lényeg kiemelésében. Akadozva, vagy egyáltalán nem hasznosítja korábbi ismereteit, egyszerűen nem emlékezik rájuk.

cfo4.jpg

Pedig a gépi értelemnek pontosan ez lenne a rendeltetése, enélkül soha nem fogunk az emberrel azonos szinten álló, általános mesterséges intelligenciát fejleszteni. Csak akkor lesz lehetséges, ha az MI a megtanultakra alapozva – „emlékeit felidézve”, és nem elfelejtve azokat, nem kívülről felülírva a rendszert – gond nélkül képes általánosítani.

cfo.jpg

A „katasztrofális interferencia”, közérthetőbben „katasztrofális felejtés” néven ismert jelenség az MI-rendszerek fejlődésüket hátráltató-korlátozó legrosszabb tulajdonsága. A mai csúcsalgoritmusok általában jó munkát végeznek például arcok vagy objektumok felismerésében.

Kézileg felcímkézett sokezer képből tanulnak, aztán megoldják a feladatot. Viszont ha ugyanannak az algoritmusnak következő munkájában érzelmeket kellene azonosítania, kezdhetne mindent elölről. Az addigi tudása lenullázódik, mert nem tudja hasznosítani a korábban teljesen más területen összeszedett ismereteit. Mihelyst befejezte a tanulást és az ahhoz kapcsolódó munkát, nem frissíthető többé, mehet minden a kukába, nincs folyamatos – „élethosszig tartó” – tanulás.

cfo6.jpg

Szakemberek évek óta próbálják orvosolni a problémát, de ígéretes törekvések, projektek ellenére, egyelőre nem sikerült átfogó megoldást találniuk, és amíg nincs megoldás, az MI sem fog komolyabb szintet lépni. Általánosítás nélkül buta szakbarbár marad. Úgy tűnik, mégsem volt hasztalan megtanulni azt a borzalmas szorzótáblát.

A bejegyzés trackback címe:

https://kvantumugras.blog.hu/api/trackback/id/tr1716571504
süti beállítások módosítása