Gen Ai - A generatív mesterséges intelligencia igazságszűrőn keresztüli vizsgálata

 A GenAI nem elég, ha kreatív és stratégiai. Attól, hogy jó ötleteket ad, még nem biztos, hogy azok igazak, aktuálisak vagy helyben használhatók.

A három gondolkodásmód:

Stratégiai gondolkodás: előre tervez, kockázatokat mérlegel.
Kreatív gondolkodás: új ötleteket, kampányokat, megoldásokat gyárt.
Kritikai gondolkodás: ellenőrzi, hogy az ötlet mire épül: igaz-e, friss-e, releváns-e.

A példában az üzlet tulajdonosa vakon elhitte az AI javaslatát a pufi sálakról és fülvédőkről Észak-Kaliforniában. A gond az volt, hogy az AI rosszul értelmezett trendekre, hashtagekre és nem megfelelő adatokra épített. Az eredmény: rossz árukészlet, rossz kampány, pénzügyi veszteség.

A tanulság:

A GenAI válaszait mindig át kell engedni egy „igazságszűrőn”.

Hasznos kérdések AI használatakor:

– Milyen forrásokra építetted ezt?
– Frissek ezek az adatok?
– Az én helyzetemre, országomra, városomra relevánsak?
– Lehet más magyarázata is a trendnek?
– Milyen feltételezésekkel dolgoztál?
– Mi lehet ebben tévedés vagy kockázat?

Egyszerűen:
Az AI adhat ötletet, de a döntés előtt neked kell ellenőrizni, hogy nem hülyeség-e.

A mesterséges intelligencia nem objektív bíró.
Nem saját véleménye van, hanem az emberek által létrehozott adatokból tanul. Ha az adatok torzítottak, az AI válaszai is torzítottak lehetnek.

A videó öt fő torzítást mutat be.

1. Történelmi torzítás

Az AI sokszor régi adatokból tanul.

Például lehet, hogy 10-15 éve egy MBA diploma szinte biztos karrierelőnyt jelentett. Ma azonban a világ gyorsan változik: sok vállalkozó diploma nélkül épít sikeres céget, új szakmák jelennek meg, a munkaerőpiac átalakul.

Ezért kérdezni kell:

• Ezek az adatok aktuálisak?
• Nem egy régebbi korszakot tükröznek?

2. Reprezentációs torzítás

Nem minden embercsoport jelenik meg egyformán az adatokban.

Lehet, hogy az MBA sikerességét vizsgáló kutatások főleg:

• amerikai férfiakat,
• nagyvárosi embereket,
• magas jövedelmű családokból származókat

vizsgáltak.

Akkor a következtetés nem biztos, hogy igaz egy más háttérrel rendelkező emberre.

Kérdés:

• Kiket vizsgáltak?
• Kinek a tapasztalatai szerepelnek az adatokban?

3. Kulturális torzítás

A legtöbb AI-modell képzési anyagának jelentős része angol nyelvű és amerikai eredetű.

Ami az USA-ban sikeres ötlet, nem biztos, hogy Magyarországon, Albániában vagy Szlovéniában is működik.

Idegenvezetőként te ezt naponta látod.

Egy amerikai turista számára egy várrom lehet a program csúcspontja.

Egy magyar utas lehet, hogy inkább a helyi ételek, legendák és történetek miatt lelkesedik.

Ezért érdemes megkérdezni:

• Melyik ország adatai alapján született ez a válasz?
• Ugyanez nálunk is igaz?

4. Algoritmikus torzítás

Az AI hajlamos a legtöbbet emlegetett véleményeket előnyben részesíteni.

Ha az interneten 1000 cikk írja azt, hogy:

„Az MBA nagyszerű befektetés.”

és csak 50 cikk szól arról, hogy:

„Egy sikeres food truck több pénzt termelhet.”

akkor az AI nagyobb valószínűséggel fogja az MBA-t ajánlani.

Nem azért, mert feltétlenül jobb.

Hanem mert többen beszéltek róla.

Ezért kérdezni kell:

• Van-e másik nézőpont?
• Mit mondanak azok, akik nem a többséget képviselik?

5. Adateltolódási torzítás

A világ gyorsabban változik, mint ahogy az adatok frissülnek.

Például:

• infláció,
• mesterséges intelligencia,
• távmunka,
• gazdasági válságok,
• turisztikai trendek.

Lehet, hogy ami tavaly még igaz volt, ma már nem az.

Ezért mindig fontos:

• Milyen frissek az adatok?
• Mi változott azóta?

A gyakorlati tanulság

Amikor AI-t használsz egy fontos döntéshez, ne azt kérdezd:

„Mit csináljak?”

Hanem inkább:

„Miért ezt ajánlod?”

Utána pedig:

• Mire alapozod?
• Milyen adatokból dolgoztál?
• Mi lehet ebben a tévedés?
• Mi szól az ellenkező döntés mellett?
• Milyen elfogultság lehet a válaszodban?

Ez tulajdonképpen ugyanaz az „igazságszűrő”, amiről az előző rész szólt. A jó AI-felhasználó nem csak válaszokat kér, hanem a válaszok alapjait is megvizsgálja. Ez különösen fontos üzleti döntéseknél, befektetéseknél, utazási tervek készítésénél vagy bármilyen nagyobb pénzügyi kockázat esetén.

A mesterséges intelligencia nemcsak válaszadó lehet, hanem olyan tükör is, amely segít észrevenni, amikor saját magunk csapjuk be magunkat.

Ez a rész már nem az AI elfogultságairól szól, hanem a saját emberi elfogultságainkról.

A videó egyik legfontosabb üzenete:

A mesterséges intelligencia nemcsak válaszadó lehet, hanem olyan tükör is, amely segít észrevenni, amikor saját magunk csapjuk be magunkat.

1. Megerősítési torzítás (Confirmation Bias)

Ez talán a legveszélyesebb.

Amikor valamit nagyon szeretnénk, automatikusan azokat az információkat keressük, amelyek igazolják a döntésünket.

Például:

Te most azon gondolkodsz, hogy készíts-e utazós könyvsorozatot idegenvezetők szemével.

Ha lelkes vagy az ötletért, könnyen elkezded gyűjteni:

• a sikeres útikönyvek példáit,

• a pozitív visszajelzéseket,

• azokat az embereket, akik szerint ez remek ötlet.

Közben figyelmen kívül hagyhatod:

• a sikertelen próbálkozásokat,

• a nyomdai költségeket,

• a piac szűkülését,

• a kevés vásárlót.

Ez a megerősítési torzítás.

Ilyenkor az AI-t így érdemes használni:

"Sorold fel az összes okot, amiért ez az ötlet kudarcot vallhat."

vagy

"Írj egy kritikát, mintha a projekt ellenzője lennél."

2. Elérhetőségi torzítás (Availability Bias)

Ami friss és látványos, azt fontosabbnak hisszük.

Példa:

Látsz három TikTok-videót olyan idegenvezetőkről, akik milliókat keresnek utazós tartalmakkal.

Az agyad azt mondja:

„Mindenki ezt csinálja.”

Valójában lehet, hogy tízezer ember próbálkozott, és csak három lett sikeres.

A friss és látványos példák túl nagy súlyt kapnak.

Ezért érdemes megkérdezni az AI-t:

• Mi történt az elmúlt 10 évben?

• Hány hasonló projekt bukott el?

• Milyen hosszú távú trendek láthatók?

3. Tekintélytorzítás (Authority Bias)

Ez akkor jelenik meg, amikor valamit csak azért hiszünk el, mert egy szakértő, híresség vagy vezető mondta.

Például:

• egy sikeres üzletember,

• egy ismert befektető,

• egy influenszer,

• vagy akár maga az AI.

Az emberek hajlamosak azt gondolni:

„Ő biztos tudja.”

Pedig lehet, hogy:

• más helyzetben van,

• más országban él,

• más erőforrásokkal rendelkezik,

• egyszerűen téved.

Ezért fontos kérdés:

"Mi a bizonyíték az állítás mögött?"

és nem az:

"Ki mondta?"

A legfontosabb tanulság

Az AI-t nemcsak arra lehet használni, hogy ötleteket adjon.

Arra is lehet használni, hogy megtámadja a saját ötleteidet.

A legerősebb promptok közé tartoznak:

• „Miért lehet téves a következtetésem?”

• „Mi az ellenkező álláspont?”

• „Milyen adatokat hagyok figyelmen kívül?”

• „Milyen kognitív torzítás befolyásolhat?”

• „Írj egy érvelést a döntésem ellen.”

A jó AI-használó nem ügyvédként használja az AI-t, hogy igazolja az elképzeléseit, hanem ellenzéki vitapartnerként, aki megpróbál lyukat találni a gondolkodásában. Ez sokkal értékesebb szerep, különösen üzleti, befektetési vagy karrierdöntéseknél.