A MI és a mi címmel rendezett országos konferenciasorozatot a Református Pedagógiai Intézet. Az előadások és műhelyek fókuszában a mesterséges intelligencia (MI) kihívásai álltak, de sokan a témát kitágítva a digitális oktatással és az álhírek világával is foglalkoztak. A budapesti alkalmon többek között Mérő László matematikus és pszichológus, valamint Németh Balázs mérnök és református lelkész beszélt arról, hogy mi is az a mesterséges intelligencia, hol húzódhatnak a határai, és milyen kérdéseket vethet fel a használata. 

 Az ember vagy a gép hibája? www.parokia

„Ma már az MI terjedésének legfőbb akadálya nem a technológia fejlettsége, hanem az olyan, úgynevezett lágy tudományok, mint a jog. Ki fog ugyanis felelősséget vállalni egy mesterséges intelligencia hibájáért? Ha például egy önvezető autó balesetet okoz, kin lehet ezt számonkérni? A tervezőn? A gyártón? A tulajdonoson?” Egy másik fontos lágy tudomány, amely beleszól a fejlődésbe, az etika. „Ha elkerülhetetlenné válik egy baleset, felmerülhet a kérdés, hogy melyik életet kímélje meg a mesterséges intelligencia.”

„Sok munkahelyet vehet el az emberektől a gép” ... De mi lesz azokkal az emberekkel, akiknek a munkája így elvész? A legtöbbjük valószínűleg olyan új munkakörökben dolgozhat tovább, amelyek a mesterséges intelligencia fejlődésével keletkeznek.”

„Nekünk, pedagógusoknak és szülőknek olyan problémák megoldására kell megtanítani a gyerekeket, amelyek még nem léteznek, vagy legalábbis nem szembesültünk még velük.

„A mesterséges intelligencia mindig gép marad. Az ember mondhatja azt, hogy most nincsen kedve sakkozni, de a gép nem mondhatja azt, hogy most nincs kedve végrehajtani az utasítást. Kérdezhetjük persze, hogy mi lesz akkor, ha a gép öntudatra ébred. Képes lesz morális döntésekre? Ha a keresztyén felfogást nézzük: részesül-e így az eredendő bűnben, és kiterjed-e majd rá a megváltás? Az én válaszom az, hogy a gépnek sosem lesz lelke.”

 Például azt, hogy milyen egy jó algoritmus. „Viselkedjen úgy, mint egy ideális szabályhalmaz? Egy robot a megtanult minta alapján cselekedhet úgy, mint egy keresztyén, de így leginkább a farizeusokhoz fog hasonlítani, akik nem látták meg a törvényadó Istenben az életet adó és védő, szerető Istent” 

„Legyen olyan, mint egy ideális ember? Azaz nem felügyelt tanulás alapján legyen valamilyen mércéje arról, hogy mi a jó és mi a rossz? Ez megfelelő krisztusi mértéket igényelne, amely műszaki nyelvre nem fordítható le, hiszen még az emberi nevelésbe is nehéz beépíteni. Vagy legyen olyan, mint egy ideálissá váló ember?

„A mesterséges intelligencia műszaki szinten keresi erre a választ, de az összetettebb helyzeteknél ez nem elég. A legtöbb életszerű kérdés már nem elsősorban műszaki, hanem teológiai, etikai, filozófiai, politikai, társadalmi. Teológiai probléma, hogy az ember nem képes a jó és a rossz között különbséget tenni, és önmagától nem képes a jót választani. Egymásnak sem tudunk jó viselkedési mintákat vagy szabályrendszert adni, nemhogy egy gépnek.

A technikának teremtő karaktere van, de a bűn kérdését nem oldhatja meg, és boldogságot sem ad.”


Az MI, azaz mesterséges intelligencia.  Valóban sok kérdést vet fel. Mindenképpen társadalom átalakító szerepe van. A cikkben is említett jogi kérdések. Ha egy mesterséges intelligenciával vezényelt jármű balesetet okoz, szenved, ki a felelős? A szoftver, a fejlesztő, a mérnök, a jármű tulajdonosa? Valószínűleg csak olyan kézben lehet ilyen eszköz, akinek van pénze a biztosítókra, fejlesztésekre és persze meg is csinálja. Ezek nagy számban nem magánemberek lesznek. Ismét nőhet a vagyoni különbség és annak megjelenése is. Lesznek tömegek a kerítésen kívül. A hadászati célú fejlesztéseknél szintén gondban lesznek. Ki ellenség, ki barát? Az elromló, leállíthatatlan pusztítást hozó eszközök hol végzik? Ezek valóban kérdések. 

Arról nem is beszélve, hogy folyamatos kutatások és elemzések történnek az interneten való felhasználásáról. Különböző algoritmusok térképezik fel a net használókat. A szokásainkat. Az nem újdonság, hogy tisztában vannak vele, hogy milyen oldalakat látogatunk. Aláírunk, illetve leokézunk minden elébünk kerülő kérdést, csak had mehessünk tovább az áhított tartalom felé. Kevesek kiváltsága az elrejtőzés tudása és lehetősége. Tisztában vannak, hogy mit vásárolunk, milyen zenéket hallgatunk, milyen vásárlási szándékú kereséseink vannak. Ezeknek megfelelően irányított reklámokkal bombáznak már minket. De azt is tudni kell, hogy tudják merre jártunk autóval, ha velünk a mobil. Ha különböző alkalmazásokat töltünk le, pl. sporthoz, egészséghez, egészségügyi állapotunkhoz, akkor még ez az információ is megjelenik az adatbázisban. Mikor és mennyit futottunk, bicikliztünk, úsztunk, gyalogoltunk, és mikor menstruál a nő, milyen  a havi ciklusa a nőnek és mikor kész a szexuális életre testi szempontból. Ezzel már társ-, vagy szexpartner kereső  oldalakon is tudnak manipulálni és összerendezni embereket.

Ezek eddig még olyan reklámszerű felhasználási területek. De ugye itt nem áll meg a történet. Hiszen a választások eljöttével már megkezdődik a megfelelő irányzatok promotálása is. Hirdetésekben, kéretlen levelekben. Nem feltétlenül ismerőseink által posztolt posztokban, hanem baráti posztnak álcázott fizetett hirdetésekben. Vannak tartalmak, amelyeket el tudnak rejteni előlünk és van amit az orrunk elé tolnak. Ezt mind az MI algoritmusaival képesek véghez vinni. Ma már filmeket rendez, irodalmi munkákat készít megadott paraméterekkel. Sőt! Beillesztett fényképekkel, karakterekkel részesei lehetünk egy-egy filmnek. Ezek készülhetnek rosszindulatú, karaktergyilkos filmként. Alkalmasak a közéleti lejáratásra is. 

Ma olyan kísérletek is  zajlanak (jegyzem ezek mindig is foglalkoztatták a tudósokat és az ebből közvetlen hasznot remélő hatalmakat), hogy az algoritmusokkal milyen mértékben tudnak befolyásoló hatással lenni tömegekre, vagy bizonyos emberekre, embercsoportokra. Pszichológusok, számítástechnikai szakemberek, programozók, jövőkutatók és még ki tudja milyen 2-3-4-5 betűs és számos szervezetek vesznek részt. 

Nagyon jól mondják, hogy ez a technológia kikerülhetetlen, de nem mindegy mire és kik fogják használni. A történelmi tapasztalataink szerint sok olyan felhasználó fogja használni sok olyan célra, amely nem az emberek, polgárok, lakosok, e földi létben egyensúlyozók érdekeit fogja képviselni. 

Nagyon tetszik ez a "kentaursport", "kentaur-stratégia" megjegyzés. A kentaurok félig ember, félig ló alakú lények. Vannak köztük békések és bölcsek is, de részegesek és állatias ösztönűek is. Ezekkel állandó baja van az embereknek. Leginkább harcban állnak, mert a knetaurok mindig mást akarnak és másképpen. Mondjuk eddig csak férfi kentaur ábrázolást láttam. (nem kutattam) Az MI valószínűleg optimális döntéseket képes hozni, de ez nem biztos hogy megfelel az emberi gondolkodásnak, etikának. Csak egy példa. Kiszámolja egy terület eltartó képességét növényzetre, állatokra, emberekre és optimalizál. Megmondja, miből mennyi maradhat. Esetleg, ha automatizmus, akkor kérdés nélkül küldi a végrehajtókat. Azok elvégzik a korrekciót. Csak attól függ, hogy milyen koordinátákat kap, milyen paraméterekkel, algoritmusokkal kezeli a helyzetet. 

A gépek nem sírnak. Nem lesz lelkük. Inkább hasonlítanak egy pszichopatára, akinek igaza van, de embertelen, mint egy etikus és érző emberre, aki hibázik.

Hát jól gondoljuk mi  ezt át!