Kris Čerčman, partner Goldman Saksa koji vodi digitalnu platformu Marquee za institucionalne klijente, upozorio je da postoji „ogromna opasnost“ da bankari počnu previše da se oslanjaju na AI modele i tako postepeno izgube veštine rasuđivanja.
Njegovi komentari izneti su u najnovijoj epizodi Goldmanovog podkasta „Exchanges“, a transkript intervjua dostavljen je CNBC-u.
„Delegiramo rasuđivanje veštačkoj inteligenciji“
Čerčman smatra da problem nije samo u tome što bi veštačka inteligencija mogla da preuzme određene poslove, već i u tome što bi ljudi mogli da prestanu da razvijaju sopstvene sposobnosti.
„Postoji ogromna opasnost da u eri veštačke inteligencije prepustimo svoje rasuđivanje ovim modelima i da dođe do kognitivne atrofije koja nas sprečava da sami rasuđujemo iz prvih principa“, rekao je on.
Prema njegovim rečima, razumevanje problema i dalje mora da ostane u rukama čoveka.
„Razumevanje je i dalje važno. Još uvek morate rasuđivati o problemima i strukturirati ih u argument, a sada delegiramo rasuđivanje“, upozorio je Čerčman.
Njegova zabrinutost odnosi se posebno na novu generaciju bankara i trgovaca, koji bi mogli da uđu u industriju u trenutku kada veliki deo posla već obavljaju algoritmi.
AI može da ubrza posao, ali ko će obučavati nove bankare?
Banke na Vol Stritu ulažu ogromna sredstva u veštačku inteligenciju kako bi automatizovale trgovanje, analizu podataka i druge procese. Takva tehnologija može da poveća produktivnost i profitabilnost, ali istovremeno postoji rizik da nestane tradicionalni način na koji su mladi bankari učili posao.
Čerčman je upozorio da rutinski poslovi, koji su ranije bili svojevrsna škola za mlađe zaposlene, sada mogu biti automatizovani.
Upravo kroz takve zadatke mladi bankari i trgovci sticali su iskustvo, učili da procenjuju rizik i vremenom razvijali osećaj za donošenje odluka.
„Učite radeći, a mnogo znanja je prećutno, nikada nije zapisano“, rekao je Čerčman.
Zato Goldman Saks, prema njegovim rečima, mora da pronađe način da sačuva to iskustvo i prenese ga na novu generaciju zaposlenih.
Kao primer naveo je mlađe trgovce koji uče tako što obrađuju zahteve klijenata za određivanje cena uz nadzor iskusnijih kolega.
Takav posao veštačka inteligencija može da preuzme.
„To apsolutno možemo automatizovati“, rekao je Čerčman, ali je odmah postavio ključno pitanje: „Ali da li onda dobijamo starije trgovce koji u potpunosti razumeju“.
U tome vidi jednu od najvećih opasnosti ubrzane automatizacije – kompanije bi mogle da dobiju efikasnije sisteme, ali da istovremeno izgube ljude sa dubokim praktičnim znanjem.
Bankari ne smeju da postanu samo „operateri“
Čerčman smatra da sistemi zasnovani na veštačkoj inteligenciji moraju biti napravljeni tako da ljudi i dalje donose odluke u situacijama koje uključuju velike rizike i neizvesnost.
U suprotnom, zaposleni bi mogli da postanu samo pasivni operateri koji proveravaju ili izvršavaju ono što im je sistem već preporučio.
Takav scenario mogao bi dugoročno da oslabi jednu od najvažnijih osobina vrhunskih finansijera – sposobnost da u složenim situacijama samostalno procene šta treba uraditi.
Čerčman priznaje da ni Goldman Saks još nije u potpunosti pronašao odgovor na pitanje kako da upravlja tom tranzicijom.
Najveći problem: može li AI uvek da bude u pravu?
Čerčman je govorio i o iskustvima Goldman Saksa sa razvojem sopstvenih AI sistema.
Platforma Marquee koristi se među institucionalnim klijentima za pristup tržišnim podacima, istraživanjima, analizi rizika i uslugama izvršenja trgovine, dok je AI verzija platforme za sada dostupna samo zaposlenima u Goldman Saksu.
Jedan od najvećih izazova jeste obezbediti da odgovori veštačke inteligencije budu činjenični i proverljivi.
To je posebno važno u finansijama, gde greška može da ima ozbiljne posledice.
Za razliku od potrošačkih četbotova, gde korisnik može da prihvati upozorenje da odgovor možda nije tačan, u svetu velikih finansijskih transakcija prostor za takve greške mnogo je manji.
AI ume da zvuči uverljivo čak i kada nije u pravu
Čerčman je otkrio i zanimljiv problem na koji su naišli tokom razvoja sistema.
Kada su ozbiljno testirali AI i pokušavali da ospore njegove odgovore, sistem je, prema njegovim rečima, praktično priznao sopstvenu slabost.
„Na kraju, bolji sam u tome da zvučim temeljno nego da budem temeljan“, glasilo je njegovo objašnjenje ponašanja sistema.
Upravo zbog toga, upozorenje jednog od vodećih ljudi Goldman Saksa nije da treba zaustaviti razvoj veštačke inteligencije, već da je ne treba koristiti kao zamenu za ljudsko razmišljanje.
Najveći izazov za Volstrit možda zato neće biti kako da napravi sve pametniju veštačku inteligenciju, već kako da uz njenu pomoć ne napravi generaciju ljudi koja će sve manje morati da misli svojom glavom.
Za najnovije biznis vesti iz Srbije i sveta, pratite nas na Tiktoku, Fejsbuku i na našoj Instagram stranici.
