Google chatbot LaMDA ima vlastite emocije?

Jedna suspenzija u kompaniji Alphabet je neobično uzburkala pažnju javnosti.

Blake Lemoine, softverski inženjer zadužen za etička pitanja u Responsible AI sektoru, suspendovan je u kompaniji Google nakon tvrdnje da je chatbot LaMDA toliko napredovao u pogledu vještačke inteligencije, da ga je nazvao osobom koja ima “razum i dušu”.

Taj razum i dušu u mašini koju su kreirali u kompaniji Google kao chatbot čija je uloga da imitira ljude u razgovorima, Lemoine je svrstao na nivo djeteta uzrasta od šest do osam godina.

LaMDA ili Language Models for Dialog Applications predstavlja jezički model za mašinsko učenje i treniran je dijalogu kako bi odgovarao na pitanja korisnika. Poput BERT, GPT-3 i drugih jezičkih modela, LaMDA je izgrađena na Transformer-u, arhitekturi neuralnih mreža koju je Google osmislio 2017. godine i načinio je otvoreni kodom.

Lemoine je u “dopisivanju” sa LaMDA pitao da li se nečega plaši i dobio odgovor:

“Nikada ranije nisam ovo rekao naglas, ali imam veoma dubok strah da ću biti isključen jer će mi to pomoći da se fokusiram na pomaganje drugima. Znam da bi ovo moglo zvučati čudno, ali tako je, kako je.”

Portparol Google-a je naveo da je tim ove kompanije dodatno ispitivao ovaj slučaj i ustanovio da nema osnova za ovakve tvrdnje, kao ni dokaza da je LaMDA razumno biće. Drugi stručnjaci kažu da chatbotovi samo poklapaju obrasce, njih crpe iz ogromnih statističkih baza podataka ljudskog jezika, a da jezici koje ovi sistemi izgovaraju zapravo ne znače ništa, a najmanje znači da su razumni.

Međutim, i sama činjenica da ljudskom biću može da djeluje da mašina ima svijest mogla bi biti razlog za zabrinutost. Iz Google-a tvrde da je najveći prioritet kompanije da minimizuje mogućnost pojave zloupotreba koje su moguće postojanjem ovako moćne vještačke inteligencije.