Egy tanulságos történet az AI előítéleteiről
Czagler Zsuzsa
Amikor belevágtam abba a hatalmas feladatba, hogy angolra fordítsam a könyvemet (A láthatóvá tett belső tűz – A motiválás mestersége a gyakorlatban), úgy döntöttem, a technológiát is segítségül hívom. Két különböző mesterséges intelligencia eszközt is használtam a munka során. Ugyanazt a magyar szöveget adtam be mindkettőnek, majd a kapott angol verziókat mondatról mondatra összenéztem.
Ami ezután rajzolódott ki, az az egyik legtanulságosabb felismerés volt számomra az AI működésével kapcsolatban, és tökéletesen rávilágított arra, miért is van égető szükség az Egyenlítő Alapítvány Etikus AI szakmai csoportjának munkájára.
A magyar nyelv egyik csodája – és fordítási szempontból egyben nagy trükkje is –, hogy nincsenek benne nyelvtani nemek. Amikor a könyvemben a „vezető” szót használtam, egy teljesen nemsemleges fogalomról írtam. Az összehasonlítás során azonban egy megdöbbentő, de annál beszédesebb mintázatra lettem figyelmes:
Az egyik AI eszköz minden egyes alkalommal, amikor a vezetőre való hivatkozást fordította, automatikusan a „he” (ő, mint férfi) névmást használta konzisztensen. A másik eszköz ezzel szemben a „they” (ők, mint nemsemleges) formát alkalmazta konzisztensen.
Ez az egyetlen szó azonnal és élesen megvilágította, hogyan működnek ezek a rendszerek a háttérben. A két AI teljesen más tudásbázison, más betáplált adathalmazon lett tréningezve. Az egyik gép a korábbi évtizedek domináns mintázataiból azt az algoritmikus következtetést vonta le, hogy egy vezető statisztikailag csakis férfi lehet – és gondolkodás nélkül adta volna tovább ezt a sztereotípiát a könyvem angol olvasóinak.
Ha nem figyelek oda, ha csak vakon rábízom magam az automatizmusra, a saját, a belső tűz felélesztéséről és a motiválásról szóló szövegem vált volna egy olyan rendszer eszközévé, amely láthatatlanná teszi a női vezetőket, és kiöli belőlük a vezetésről való álmodást is.
Ha az adatok, amelyeken az eszközt tréningezték, nem megfelelően reprezentatívak, és nincs meg bennük az egyensúly például a női és férfi vezetők kapcsán, akkor a technológia nem a jövőt fogja építeni. Ehelyett a legrosszabb forgatókönyvet valósítja meg: a múlt legsúlyosabb sztereotípiáit fogja bebetonozni, és észrevétlenül, egy pillanat alatt továbbadni őket a következő generációnak.
Nem engedhetjük meg, hogy a jövő technológiája a múlt előítéleteit visszhangozza. Tudatos döntésekre, kritikus gondolkodásra és etikus alapokra van szükség ahhoz, hogy a mesterséges intelligencia valóban esélyegyenlőséget teremtsen, ne pedig régi korlátokat építsen újjá.
Ez a tapasztalat számomra nagyon erősen aláhúzta azt az üzenetet, amit az Egyenlítő Alapítvány etikus mesterséges intelligenciával foglalkozó csapata is képvisel, és ahova emiatt én is csatlakoztam. Kiemelten oda kell figyelnünk az AI által kiadott szövegekre és az azokat mozgató háttérmechanizmusokra. Az AI nem egy objektív, tévedhetetlen entitás; sokkal inkább egy tükör, ami a betáplált adatokat veri vissza. És természetesen a szövegeim fordítását ezentúl azzal az eszközzel végzem, ami a nemsemleges megfogalmazást alkalmazza, mivel így abban biztos lehetek, hogy legalább ezt a „ha vezető, akkor csakis férfi” sztereotípiát nem fogom továbbadni.
A szerző:
Czagler Zsuzsa
Amazon #1 BestsellerAuthor & Expert in Motivation, VIP Coaching Center
