Cseresnyés Dóra

Az AI Act kapcsán a legtöbb figyelem a magas kockázatú rendszerekre irányul. Sok szó esik az AI-t használó HR-rendszerekről, az oktatási, egészségügyi vagy pénzügyi alkalmazásokról, valamint az ezekhez kapcsolódó megfelelőségi kötelezettségekről.

Kevesebb figyelmet kap azonban az AI Act egyik legfontosabb része: azok a mesterséges intelligencia használatok, amelyeket az Európai Unió egyáltalán nem
engedélyez. Ezeket az AI Act elfogadhatatlan kockázatú rendszereknek tekinti, amelyek használata önmagában sértheti az alapvető jogokat, az emberi méltóságot vagy a demokratikus értékeket. Ezért ezekre nem kockázatkezelési vagy megfelelőségi követelmények vonatkoznak, hanem egyszerűen tilosak, és ilyen célú rendszereket nem lehet forgalomba hozni vagy használni az EU-ban.

Fontos hangsúlyozni, hogy az AI Act nem általánosságban technológiákat tilt, hanem olyan AI felhasználási módokat, amelyek az Európai Unió megítélése szerint elfogadhatatlan kockázatot jelentenek.

Az AI-etika szempontjából ezek a tiltások különösen érdekesek, mert megmutatják, hol húzza meg az Európai Unió az AI-használat végső határait.

Az AI Act tiltott rendszerei négy alapvető értéket védenek:

  • az emberi autonómiát és szabad döntéshozatalt
  • az emberi méltóságot
  • a magánszférát
  • valamint a megkülönböztetéstől mentes bánásmódot.

A legfontosabb üzenet talán az, hogy az AI nem tehet meg mindent, amire technológiailag képes. Vannak területek, ahol az emberi jogok és az emberi méltóság
fontosabbak az innovációnál.

Az AI Act által tiltott felhasználások

Nézzük meg részletesen, mit jelentenek ezek a tiltások a gyakorlatban, és milyen konkrét példák tartozhatnak az egyes kategóriákba.

1. Manipulatív vagy megtévesztő AI-használat

Az AI Act tiltja azokat a rendszereket, amelyek rejtett, megtévesztő vagy tudattalan befolyásolási technikákkal próbálják rávenni az embereket olyan döntésekre, amelyeket egyébként nem hoznának meg. A tiltás középpontjában maga a manipuláció áll. A személyre szabás önmagában nem tiltott. Egy webáruház például ajánlhat a korábbi vásárlásokhoz kapcsolódó termékeket, vagy egy streaming szolgáltató filmeket javasolhat az előzmények alapján. A probléma akkor kezdődik, amikor az AI nem egyszerűen segíti a döntést, hanem rejtett pszichológiai eszközökkel próbálja befolyásolni azt.

Képzeljünk el egy rendszert, amely a felhasználó online viselkedése alapján, például a kereséseiből, az olvasott tartalmakból vagy a chatbotoknak feltett  kérdéseiből arra következtet, hogy egészségügyi problémák miatt aggódik. Ezt követően úgy időzíti és alakítja az üzeneteit, hogy azok a lehető legnagyobb hatást gyakorolják rá: például sürgető vagy félelemkeltő üzenetekkel próbálja rávenni drága termékek vagy szolgáltatások megvásárlására.

2. Sérülékeny emberek célzott befolyásolása

Az AI Act külön tiltja azt is, amikor egy rendszer gyermekek, idősek, fogyatékossággal élők vagy más kiszolgáltatott helyzetben lévő emberek sérülékenységét használja ki döntéseik befolyásolására. Itt nem elsősorban a manipuláció módja, hanem a célzottan kihasznált sérülékenység jelenti a problémát.

A szabályozás különösen a gyermekek és más kiszolgáltatott csoportok védelmét célozza.

Nem minden célzott kommunikáció tiltott. Egy vállalat például küldheti ugyanazt a reklámot minden ügyfelének. A probléma akkor kezdődik, amikor egy AI-rendszer azonosítja a sérülékenyebb embereket, majd kifejezetten rájuk szabott üzenetekkel
próbál nagyobb nyomást gyakorolni rájuk.

Például tiltott lehet egy olyan rendszer, amely felismeri, hogy valaki anyagi gondokkal küzd, idős, vagy gyermek, és ezt kihasználva próbálja rávenni egy vásárlásra, hitelfelvételre vagy más számára kedvezőtlen döntésre.

A szabály lényege, hogy az AI nem használhatja ki az emberek kiszolgáltatottságát üzleti, kereskedelmi vagy egyéb befolyásolási célokra.

3. Társadalmi pontozás (social scoring)

Az AI Act tiltja azokat a rendszereket, amelyek pontszámot vagy minősítést adnak az embereknek a viselkedésük, szokásaik vagy személyes jellemzőik alapján, és ezt később arra használják, hogy egyeseket hátrányos helyzetbe hozzanak.

Képzeljünk el egy rendszert, amely különböző adatokat gyűjt az emberekről, például korábbi viselkedésükről, online aktivitásukról, vásárlási szokásaikról vagy  más róluk rendelkezésre álló információkról, majd ezek alapján pontszámot vagy minősítést ad nekik.

Ha ezt a minősítést később arra használják, hogy valakitől lehetőségeket, szolgáltatásokat vagy kedvezményeket vonjanak meg, az már társadalmi pontozásnak
minősül.

Az Európai Unió szerint az ilyen rendszerek súlyosan sérthetik az emberek jogait, ezért használatuk tiltott.

4. Bűnelkövetés kockázatának előrejelzése profilozás alapján

Tilos olyan AI-rendszereket használni, amelyek kizárólag profilalkotásra vagy személyiségjegyek elemzésére támaszkodva próbálják előre jelezni, hogy valaki várhatóan bűncselekményt fog-e elkövetni.

Vagyis egy AI-rendszer nem döntheti el pusztán valakinek a profilja, személyisége, életkora, lakóhelye, közösségi média aktivitása vagy más személyes jellemzője alapján, hogy mekkora eséllyel fog bűncselekményt elkövetni a jövőben.

Az Európai Unió álláspontja szerint az embereket nem lehet algoritmusok segítségével potenciális bűnözőként megbélyegezni vagy kategorizálni olyan adatok alapján, amelyek nem kapcsolódnak konkrét és ellenőrizhető bizonyítékokhoz.

5. Tömeges arcképgyűjtés arcfelismerési adatbázisokhoz

Az AI Act tiltja olyan arcfelismerő adatbázisok létrehozását, amelyekhez az emberek arcképeit tömegesen gyűjtik össze az internetről vagy térfigyelő kamerák felvételeiből.

Például nem megengedett egy olyan rendszer fejlesztése, amely közösségi média oldalakról, online fényképtárakból vagy nyilvános kamerafelvételekből automatikusan gyűjt össze milliónyi arcképet azért, hogy azokat egy arcfelismerő rendszer betanítására használja.

A szabályozás célja, hogy megakadályozza olyan óriási arckép-adatbázisok létrehozását, amelyekben az emberek tudtuk és beleegyezésük nélkül szerepelnek.

6. Érzelemfelismerés a munkahelyen és az oktatásban

Az AI Act egyik legfontosabb tiltása a munkahelyeket és az oktatási intézményeket érinti. A szabály szerint nem használhatók olyan AI-rendszerek, amelyek az emberek érzelmeit próbálják felismerni vagy elemezni.

Ez azt jelenti, hogy egy munkáltató vagy iskola nem alkalmazhat olyan rendszert, amely arckifejezések, hangszín, testbeszéd vagy más viselkedési jelek alapján próbálja megállapítani, hogy valaki stresszes, motivált, elégedett, figyelmes vagy éppen elkötelezett-e.

Fontos ugyanakkor, hogy az érzelemfelismerés nem azonos a fizikai állapot felismerésével. Továbbra is használhatók például olyan biztonsági rendszerek, amelyek egy gépjárművezető álmosságát vagy egy munkavállaló kimerültségének jeleit érzékelik a balesetek megelőzése érdekében.

7. Biometrikus kategorizálás érzékeny tulajdonságok alapján

Az AI Act tiltja azokat a rendszereket, amelyek valakinek a külseje, arca, hangja vagy más biometrikus jellemzői alapján próbálnak érzékeny személyes tulajdonságokra következtetni.

Például egy AI-rendszer nem próbálhatja megállapítani egy emberről az arcképe vagy a hangja alapján, hogy milyen politikai nézeteket vall, milyen a vallása, melyik szakszervezethez tartozik, mi az etnikai háttere vagy milyen a szexuális orientációja.

Az Európai Unió szerint az ilyen következtetések könnyen vezethetnek diszkriminációhoz, megbélyegzéshez vagy jogsértő megfigyeléshez. Ezért az ilyen célú
AI-felhasználás tiltott, még akkor is, ha a rendszer csak valószínűsíti ezeket a jellemzőket, és nem állítja őket teljes bizonyossággal.

8. Valós idejű távoli biometrikus azonosítás nyilvános helyen, rendészeti célból

Az AI Act alapvetően tiltja, hogy a rendvédelmi szervek valós időben, nyilvános helyeken arcfelismerő rendszerekkel azonosítsák az embereket.

Ez azt jelenti, hogy egy AI-rendszer nem figyelheti folyamatosan az utcán, pályaudvaron, bevásárlóközpontban vagy más nyilvános helyen közlekedő embereket
azért, hogy automatikusan felismerje és azonosítsa őket.

A szabály alól csak néhány szigorúan meghatározott kivétel létezik, például bizonyos súlyos bűncselekmények vagy közvetlen biztonsági fenyegetések esetén.

A tiltás célja, hogy megakadályozza a tömeges megfigyelést, és megvédje az emberek magánszféráját a folyamatos, automatizált azonosítással szemben.

Ez volt az AI Act egyik legtöbbet vitatott rendelkezése, mert egyszerre érinti a közbiztonság és az alapvető szabadságjogok kérdését.

9. Az Omnibus új tiltása

Az EU 2026-ban tovább bővítette a tiltott AI-felhasználások körét. Az EU AI Act Digital Omnibus módosításai alapján tilos olyan AI-rendszereket fejleszteni vagy használni, amelyek intim vagy szexuális tartalmú képeket készítenek valakiről annak beleegyezése nélkül, illetve gyermekek szexuális kizsákmányolását bemutató vagy ahhoz kapcsolódó tartalmak létrehozására alkalmasak.

Ide tartoznak például a köznyelvben gyakran „deepfake pornóként” vagy „nudify alkalmazásként” emlegetett megoldások is, amelyek mesterséges intelligencia
segítségével valós személyekről készítenek beleegyezés nélküli intim vagy meztelen képeket.

Ez jól mutatja, hogy a szabályozás nem statikus: az EU folyamatosan reagál az új technológiai visszaélésekre és társadalmi kockázatokra.

Az AI Act nem csupán tiltásokat fogalmaz meg, hanem szankciókat is. Az 5. cikkben felsorolt tiltások megsértése az AI Act legszigorúbban büntethető jogsértései közé tartozik, a bírság 35 millió euró (vagy a vállalat éves világpiaci árbevételének 7%-a, attól függően, hogy melyik összeg a magasabb).

Miért fontosak ezek a tiltások az etikus AI szempontjából?

A tiltott AI-felhasználások listája jól mutatja, hogy az Európai Unió szerint nem minden elfogadható, ami technológiailag lehetséges. Bizonyos alkalmazások olyan mértékben veszélyeztetik az emberek jogait, méltóságát vagy szabadságát, hogy használatukat a szabályozás teljesen kizárja.

Az 5. cikk által kijelölt vörös vonalak olyan alapértékeket védenek, mint az emberi méltóság, az autonóm döntéshozatal, a magánélet védelme, a diszkriminációmentesség, és az alapvető jogok érvényesülése.

Az AI Act ezért egy értékalapú állásfoglalás is arról, hogy milyen szerepet tölthet be a mesterséges intelligencia egy demokratikus társadalomban.

Források:
Article 5: Prohibited AI practices | AI Act Service Desk
Article 5 — Prohibited AI practices (EU AI Act) | Regulation AI
EU AI Act Prohibited Practices (Art. 5) | Regulation AI
EU AI Act Article 5: Prohibited AI Practices and Compliance Guide (2026) | Secure
Privacy Blog

A szerző:

Cseresnyés Dóra
projektvezető – Etikus AI csoport