Ez a MI négy kockázati szintje – A szakértő részletesen kifejti, mit takarnak ezek a kategóriák.

Néhány éve még nem is létezett, ma pedig már a mindennapjaink része a mesterséges intelligencia, a MI. Túlzás nélkül mondhatjuk, hogy az AI befolyásolja mindennapjainkat, de eddig nem létezett ezzel kapcsolatban semmiféle szabályozás.

Ám február elejétől Európa-szerte kötelező minden AI-t használó cégnek közzétenni, hogy milyen kockázatot jelent ez ügyfeleinek, ha pedig tiltott célra használta, köteles megszüntetni.

Február 2-án életbe lép az Artificial Intelligence Act (AI Act), amely az Európai Unió első átfogó jogszabálya a mesterséges intelligencia területén. Ez a szabályozás széleskörű hatással bír, de különösen a mindennapi életünkben, mint vásárlók, fogyasztók és ügyfelek, érezhetjük a jótékony hatásait. Az új rendelet célja, hogy biztosítsa az AI technológiák biztonságos és etikus használatát, így védve érdekeinket a digitális világban.

A jogszabály kiterjed minden olyan szervezetre és vállalatra, amely mesterséges intelligenciát (MI) fejleszt, értékesít vagy használ az Európai Unió területén, függetlenül attól, hogy az EU-n belül vagy azon kívül működik. Napjainkban egyre több szervezet – különösen a technológiai, egészségügyi és biztonságtechnikai szektorokban, valamint a pénzügyi intézmények, szolgáltatók, startupok és kormányzati intézmények között – igyekszik egyszerűsíteni működését és felgyorsítani folyamatait a mesterséges intelligencia vagy chatbotok alkalmazásával. Az automatizálás és digitalizálás előrehaladtával Magyarországon is egyre elterjedtebbé válik a MI használata.

Az mesterséges intelligencia alkalmazása a vállalkozások számára jelentős idő- és költségmegtakarítást kínál, lehetővé téve számukra, hogy hatékonyabban működjenek és erőforrásaikat jobban kihasználják.

Az adatvezérelt döntéshozatal révén jelentős mértékben fokozható a hatékonyság és a termelékenység. E megközelítés lehetőséget biztosít arra, hogy a vállalatok személyre szabott ajánlatokat nyújtsanak, valamint innovatív szolgáltatások és termékek fejlesztésére is sor kerülhet. Az adatok alapos elemzése segít a piaci igények pontosabb megértésében, ezáltal a versenyképesség növelésében.

A mesterséges intelligencia rendkívül hatékonyan képes azonosítani a biztonsági kockázatokat, mint például a kibertámadásokat. Ezen kívül fejlettebb banki csalásfelismerő rendszerek, valamint intelligens videómegfigyelő megoldások működtetésére is alkalmas, így hozzájárul a biztonságosabb környezet kialakításához.

A látszólag misztikus alkalmazások valójában a mindennapi életünkben is rendkívül hasznosak lehetnek. Gondoljunk csak a bolthálózatok által használt intelligens kamerákra: ezek nem csupán a biztonságot szolgálják, hanem képesek arcfelismerésre is, így a vásárlók boltban tett útvonalát figyelve optimalizálhatják a marketingstratégiáikat. Extrém példaként említhetjük, hogy ezek a rendszerek nyomon követhetik, mikor vásárolt a vevő utoljára intim higiéniai termékeket, és előre jelezhetik, mikor lenne esedékes a következő vásárlás. Ez a technológia új dimenziókat nyit meg a személyre szabott vásárlási élmények terén.

Az AI számos életterületen megjelenik, új kihívásokat és problémákat hozva magával, ugyanakkor izgalmas lehetőségeket is teremt. Az egészségügyben például segíthet a diagnózis felállításában, a betegségek korai észlelésében, valamint a személyre szabott kezelési tervek kidolgozásában. Az oktatási szektorban az elektronikus tanulási platformok révén a diákok teljesítménye és tudása alapján testre szabott fejlődési lehetőségeket kínálhat. A munkaerőpiacon pedig hozzájárulhat a munkavállalók kiválasztásához és hatékonyságuk méréséhez, de nem mentes a kockázatoktól sem: a diszkrimináció vagy az igazságtalan döntéshozatal veszélyei, valamint az adatvédelmi visszaélések komoly problémákat vethetnek fel. Ezenfelül gyakran találkozunk a fekete doboz-hatással, ahol az AI rendszerek működése átláthatatlan, és nehezen érthető, hogy egy döntés hogyan született, valamint ez milyen következményekkel jár az érintettek számára.

Az AI Act célja nem a teljes tiltás, hanem az, hogy a MI rendszerek biztonságosak legyenek, minden fejlesztő és működtető felelősen alkalmazza a mesterséges intelligenciát, biztosított legyen az alapvető jogok védelme, a magánélethez és a méltányos bánásmódhoz való jog. A vállalkozásokat is védi, mivel az egységes szabályozási keret csökkenti a nemzetközi versenyből adódó káoszt és támogatja a tisztességes versenyt.

"Meg kell vizsgálni mindenkinek, aki AI alkalmazást használ, hogy ennek milyen kockázati besorolása van: tiltott, magas, közepes vagy alacsony. Az AI ACT hatályba lépésekor meg kell szüntetni a tiltott tevékenységeket és ezeket megfelelően dokumentálni is kell az elszámoltathatóság jegyében" - hívta fel a figyelmet Dr. Tóth Judit Lenke, adatvédelmi és pénzmosás elleni szakjogász. Kiemelte: az AI Act célja, hogy biztonságos, átlátható és emberközpontú mesterséges intelligencia alkalmazásokat hozzanak létre, miközben az MI elősegíti az innovációt.

Elfogadhatatlan kockázatú rendszerek - ezeket betiltják.

Az emberek manipulálása, a tömeges megfigyelés, a tudatalatti befolyásolás, valamint a megtévesztő technikák alkalmazása szigorúan tilos. Különösen aggályos, ha munkahelyeken és oktatási intézményekben olyan rendszerek működnek, amelyek képesek az érzelmek felismerésére, illetve ha olyan alkalmazások léteznek, amelyek kihasználják az egyének vagy csoportok gyengeségeit. Az ilyen jellegű gyakorlatok nemcsak etikátlanok, hanem alapvetően sértik az emberek jogait és méltóságát is.

A jogszabály megakadályozza például, hogy MI alapú hitelminősítő rendszer indokolatlanul elutasítson valakit, vagy hogy arcfelismerő technológia sértse a magánéletét.

A magas kockázatú rendszerek szigorú szabályozási keretek között működnek.

Ezek többek között az egészségügyi diagnosztikai MI-k és önvezető autók rendszerei.

Korlátozott kockázatú rendszerek - átláthatósági követelmények vonatkoznak rájuk:

Minimális kockázatú rendszerek - ezek szabadon használhatók. Ide sorolhatóak például a játékok vagy egyszerű MI-eszközök.

A szabályozás hangsúlyozza a vásárlók és fogyasztók védelmének fontosságát, ám egyelőre hiányoznak a konkrét iránymutatások arra vonatkozóan, hogy miként állapítható meg a szolgáltatók tevékenységének kockázati besorolása. A vállalatok számára ugyanakkor rendelkezésre állnak olyan támogatási lehetőségek, amelyek segítik őket az összetett szabályozási követelményeknek való megfelelésben.

"A módszertant és a tájékoztatás módját nekünk kell kidolgozni és ismertté tenni. A minősítést a cégeknek kockázatértékelési szempontrendszer alapján kell meghatározni. Magas kockázat esetén a tájékoztatáson kívül szükséges a hatásvizsgálat, kell lennie az MI-szabályzatnak, valamint szükségessé válhat a Nemzeti Adatvédelmi és Információszabadság Hatóság bevonása is. A fogyasztóknak pedig lehetőséget kell biztosítani arra, hogy az automatikus döntéshozatal ellen tiltakozhassanak" - részletezte Dr. Tóth Judit Lenke.