Mi történik egy chatbot „fejében”?
Kép: Depositphotos/BiancoBlueMivel egyre több területen alkalmazzuk a mesterséges intelligenciát (MI), egyre komolyabb kockázatot jelent, ha nem értjük pontosan, hogyan működnek ezek a modellek. A RAItHMA projekt keretében a Szegedi Tudományegyetem Mesterséges Intelligencia Kompetencia Központja az amerikai Rutgers Egyetemmel és a német Ludwig-Maximilians-Universitättel működik együtt annak érdekében, hogy mélyebben feltárják a generatív nyelvi modellek működését a technológia biztonságosabb és hatékonyabb alkalmazása érdekében.
Jelasity Márk, az Interdiszciplináris Kutatásfejlesztési és Innovációs Kiválósági Központ Mesterséges Intelligencia Kompetenciaközpont vezetője a projekttel kapcsolatban arra hívta fel a figyelmet, hogy a nagy nyelvi modellek nem a tényleges tudást vagy a szabályok megértését sajátítják el, hanem pusztán a szövegek folytatására épülnek. Ebből következik, hogy a chatbotok olykor olyan alapvető kérdésekben hibáznak, amelyeket adott esetben egy gyermek is képes megválaszolni. A kutatók egyebek között arra is keresik a választ, hogy mi áll ezeknek az ellentmondásoknak a hátterében, milyen belső tudással rendelkezik a modell, és miképpen csökkenthető a kommunikációs zavar ember és gép között. Az így szerzett tudás hozzájárulhat a jövő MI-rendszereinek alakításához, a hatékonyabb, megbízhatóbb tervezéshez.•
Címlapkép: Depositphotos/BiancoBlue
