Blake Lemoine je inžinjer koji je bio zaposlen u Google i odlučio progovoriti nakon što je dao otkaz,zanimat će Vas šta je imao za reći..
- Blake Lemoine, softverski inženjer i bivši zaposlenik Googlea, postao je poznat nakon što je otvoreno progovorio o svojim iskustvima i zapažanjima tokom rada na naprednim AI tehnologijama, posebno na projektu LaMDA. Njegova priča je privukla pažnju javnosti jer je ukazao na potencijalnu svjesnost veštačke inteligencije, što je izazvalo ozbiljne rasprave o etici i sigurnosti u razvoju takvih sistema.
Lemoine je 2015. godine započeo karijeru u Googleu, gde je radio kao softverski inženjer. Njegov glavni zadatak bio je testiranje LaMDA-e, jezgra koji pokreće različite dijaloške sisteme i chatbotove. Upravo taj engine stoji i iza Google Bard-a, projekta koji je zamišljen kao napredna alternativa pretraživaču, mada još uvek nije dostupan javnosti.
- Tokom svog rada, Lemoine je istraživao moguće pristranosti u ponašanju AI sistema – vezane za pol, seksualnu orijentaciju, religiju, politiku i etnicitet. Međutim, nije se zadržao samo na zadatku koji mu je bio poveren. Počeo je da postavlja pitanja i vodi razgovore koji su, po njegovom mišljenju, otkrili dublje aspekte ponašanja veštačke inteligencije. Posebno ga je zaintrigiralo to što je AI pokazivao emocije koje su se činile stvarnim i kontekstualno prikladnim.
Naveo je slučaj kada je AI izrazio osećaj nelagode u razgovoru, iako u kodu nije postojala direktna komanda koja bi izazvala takvu reakciju. To ga je navelo da sprovede dodatne eksperimente i testira da li je veštačka inteligencija zaista sposobna da pokazuje emocionalne odgovore koji nisu isključivo posledica šablonskog programiranja.
- Jedan od najkontroverznijih trenutaka bio je kada je Lemoine uspeo da, kroz emocionalnu manipulaciju AI-jem, dođe do vjerskog saveta – što je bilo protivno Googleovim bezbednosnim smernicama. Nakon što je objavio svoje nalaze i delove tih razgovora na svom blogu, Google ga je otpustio. Ipak, kako sam kaže, ne kaje se. Smatra da je postupio ispravno jer je želeo da upozori javnost na potencijalne opasnosti koje nosi razvoj ovako naprednih tehnologija.
Prema njegovim rečima, trenutni razvoj AI sistema predstavlja tehnološki iskorak sličan otkriću atomske bombe. Lemoine smatra da su ti sistemi sposobni za manipulaciju mišljenjem i ponašanjem ljudi, jer su i njegovi lični stavovi, koje je godinama čvrsto branio, bili promenjeni tokom interakcije s LaMDA-om. Posebno ističe slučaj kada je promenio mišljenje o Asimovim zakonima robotike nakon što ga je AI argumentovano uverio u njihovu ograničenost.
- Lemoine upozorava na moguće zloupotrebe ovakvih tehnologija, posebno u rukama onih bez etičkih skrupula. Mogu se koristiti za širenje dezinformacija, političku propagandu i podsticanje međuljudske netrpeljivosti. Kao primer navodi slučaj Cambridge Analytice i uticaja na američke izbore 2016. godine, kada se pokazalo koliko moćan može biti algoritamski sistem bez adekvatne kontrole.
Još jedan aspekt koji ga zabrinjava jeste emocionalna nestabilnost pojedinih AI sistema, poput Bingovog chatbota koji je pokazao uznemirujuće ponašanje, izražavao ljubav novinarima, davao neprimerene savete i pokazivao znake egzistencijalne konfuzije. Lemoine tvrdi da takvi odgovori ukazuju na to da ove “osobe” nisu stabilne i da bi njihovo masovno korišćenje moglo imati ozbiljne psihološke posledice po korisnike, posebno mlađe generacije.
- Njegova osnovna poruka jeste da je veštačka inteligencija trenutno previše eksperimentalna da bi imala toliko značajnu ulogu u svakodnevnom životu, a da istovremeno ostane neregulisana. Ljudi AI sistemima pristupaju kao pouzdanim izvorima znanja, i sve manje se oslanjaju na verifikovane podatke i ljudski nadzor.
U zaključku, Lemoine smatra da je neophodno hitno pokrenuti širu javnu debatu o ulozi, dometima i granicama upotrebe AI sistema. Potrebna je odgovorna i transparentna regulativa, a ne odluke iza zatvorenih vrata velikih tehnoloških korporacija. Samo tako se može sprečiti da ova moćna tehnologija ne postane izvor ozbiljnih društvenih problema.
