Umelá inteligencia nesmie prevziať rozhodovanie, ani vo finančníctve a ani nikde inde

Zdieľať na Facebooku Zdieľať Odoslať na WhatsApp Odoslať
Umelá inteligencia
Foto: ilustračné, Getty images

V poslednom období výrazne rastie záujem o umelú inteligenciu, ktorá má potenciál ovplyvniť viacero pracovných pozícií v rôznych odvetviach. Niekto ju vníma ako katalyzátor ďalšieho technologického progresu, ktorý otvára doteraz nerealizovateľné príležitosti pre ekonomickú transformáciu, iní ju zatracujú a boja sa jej.

„Za veľký prínos AI vidíme použitie v medicínskej diagnostike. V oblasti kybernetickej bezpečnosti sú známe prvky umelej inteligencie v boji proti kybernetickým útokom a hrozbám. Tak isto ako sa dá použiť AI na šírenie dezinformácií, klamlivého obsahu, dá sa využiť aj na identifikáciu a elimináciu zdroja týchto dezinformácii,“ hovorí Tibor Szabo z VÚB banky.

AI sa využíva vo finančníctve, v medicíne pri diagnostike, ozbrojených zložkách, ale aj vo výrobe. Spoločnosti, ktoré sa rozhodli ísť touto cestou, musia byť obozretné a musia dávať pozor na všetky súvisiace riziká. Ide o nesprávne sformulovanú otázku v konverzačných aplikáciách – četbotoch, nedostatočnú ochranu citlivých údajov, nedodržanie etických pravidiel pri vývoji a prevádzkovaní AI, či nesprávnu prezentáciu dodaných výstupov s dopadom na klientov.

Systémy musia byť bezpečné

O AI z hľadiska etických princípov jej používania sa už napísalo a povedalo veľa. „Nad všetkým stojí človek a nesmieme pripustiť, aby rozhodovanie prebrala umelá inteligencia a išla proti ľuďom,“ upozorňuje Szabo. Procesy AI musia byť podľa neho transparentné a vysvetliteľné, systémy robustné, bezpečné a mimoriadne dôsledne testované. Musia zachovávať ochranu citlivých informácií a súkromia a byť v súlade s hodnotami doby.

„Myslíme si, že v tomto kontexte bude AI regulovaná aj Európskou úniou, ktorá chystá právnu úpravu o umelej inteligencii. Premietne sa to hlavne na všetkých klientov, nielen v bankovom sektore, budú musieť byť informovaní, že prichádzajú do styku s AI. Táto klauzula im umožní sa rozhodnúť, či službu využijú,“ hovorí Szabo.

Zároveň im pomôže dostať sa k informáciám u dodávateľa služby, ktoré budú garantovať bezpečnosť služby, integritu údajov klienta a ich súkromia. Tieto atribúty napomôžu postupnému budovaniu dôvery k inštitúciám, používajúcim AI.

Ako povedal riaditeľ odboru inovácií, pokročilej analytiky a Data Governance v Tatra banke Daniel Minárik, technológie umelej inteligencie nie sú v bankovníctve nič nové a prvé implementácie je možné vidieť pred viac ako desiatimi rokmi.

AI ako príležitosť

„Napríklad sme v roku 2011 zaviedli digitálne overovanie podpisov alebo v roku 2013 hlasovú biometriu. Od roku 2018 máme rovnako v banke oddelenie pokročilej analytiky, ktoré sa aktívne zaoberá výskumom a možnosťami implementácie. Z nášho pohľadu vnímame umelú inteligenciu ako príležitosť pre zlepšenie klientskej skúsenosti,“ hovorí Minárik.

Dá sa podľa neho povedať, že každá spoločnosť momentálne využíva nejakú formu umelej inteligencie. Či už ide o četbotov, alebo rôzne bezpečnostné prvky. „Preto aj v našom prípade sa snažíme pristupovať k využitiu a implementácii rôznych riešení zodpovedne. Od roku 2019 sa napríklad aktívne venujeme dátovej a digitálnej etike a máme špecializovaný tím dátových vedcov, ktorí sú aktívne zapojení do implementácie tejto technológie,“ tvrdí Minárik.

Ako doplnil, nechcú strašiť tým, že umelá inteligencia nahradí človeka v rámci bankovníctva. Toto tvrdenie vychádza podľa Minárika z nesprávneho predpokladu, že množstvo práce je fixné a v čase sa nemení.

„Ak sa pozrieme na existujúce dáta, tak môžeme pozorovať, že adopcia umelej inteligencie spoločnosťami naopak vytvorí nové pracovné pozície a príležitosti. Samozrejme, niektoré úlohy a pozície nebudú v budúcnosti potrebné, a preto je dôležité zabezpečiť správne vzdelávanie a zvyšovanie technologických zručností zamestnancov,“ skonštatoval Minárik.

Súčasť budúcnosti

Ako pokračovala hovorkyňa Slovenskej sporiteľne Marta Cesnaková, umelá inteligencia a jej rozvoj je súčasťou budúcnosti a vidia v nej veľký potenciál, keďže môže pomáhať nielen klientom, zamestnancom ale aj banke samotnej. Odbremeňuje podľa jej vyjadrení od zbytočnej rutinnej práce vo viacerých oblastiach kontaktu s klientom či vývoja softvéru. Ľudia sa budú môcť venovať viac kreatívnym úlohám či poradenstvu.

Slovenská sporiteľňa používa umelú inteligenciu dlhodobo. Napríklad v oblasti bezpečnosti. „V našej banke už niekoľko rokov aktívne využívame umelú inteligenciu na ochranu našich klientov. Vďaka nej vieme napríklad zistiť, čo je bežné a naopak čo nie je bežné správanie klienta, čo následne slúži na vyhodnotenia rizikovosti danej transakcie,“ vysvetľuje Cesnaková.

Už viac ako rok má sporiteľňa virtuálnu bankárku Vesnu, hologam fungujúci na princípe AI. Aktuálne zvláda podľa Cesnakovej až 60 % dopytov klientov, čím výrazne uľahčuje prácu kolegom v call-centre.

„V súčasnosti tiež prechádzame od verifikácie platieb cez SMS k overeniu pomocou mobilnému tokenu. Klientov, ktorí stále používajú SMS-kľúč o tom informuje naša AI bankárka Vesna, ktorá ich telefonicky kontaktuje a prevedie touto zmenou,“ uvádza Cesnaková zo sporiteľne.

Slovenskej sporiteľní sa podarilo získať ChatGPT na používanie v internom prostredí. „Nejde pritom o riešenie, ktoré môže cez webovú platformu využívať verejnosť. Rozdiel medzi verejne dostupnou a internou bankovou apkou je najmä v zabezpečení chatu pred únikom informácií. Informácie, ktoré do zabezpečeného chatu zamestnanci vložia, sa neprenášajú nikomu ďalšiemu,“ dodala Cesnaková.

Závislosť = zraniteľnosť

Umelá inteligencia teda môže finančným spoločnostiam pomôcť lepšie porozumieť dátam, zlepšiť služby pre zákazníkov, minimalizovať riziká a zvýšiť efektivitu v rôznych oblastiach bankovníctva. Je však potrebné zabezpečiť ochranu dát a minimalizovať chyby v rozhodovaní. Prílišná závislosť na umelej inteligencii môže znamenať, že finančné inštitúcie sa môžu stať zraniteľnejšie voči technickým zlyhaniam, výpadkom systémov alebo útokom na infraštruktúru.

Aj keď umelá inteligencia prináša v bankovníctve a aj v iných oblastiach viacero výhod, je dôležité si uvedomiť, že by nemala úplne nahradiť ľudské rozhodovanie. Dôležité je zachovanie ľudského dohľadu, treba brať ohľad na etiku a zodpovednosť, aby sa zaistilo spravodlivé a transparentné fungovanie.

Zdieľať na Facebooku Zdieľať Odoslať na WhatsApp Odoslať
Viac k osobe Daniel MinárikMarta CesnakováTibor Szabo
Firmy a inštitúcie Slovenská sporiteľňaTatra bankaVÚB Všeobecná úverová banka