#Google prepustil zamestnanca, podľa ktorého má systém umelej inteligencie vlastné vedomie. Muž tvrdí, že jazyková technológia od Googlu dokáže cítiť a jej priania by teda mali byť rešpektované.
Dnes už bývalý zamestnanec spoločnosti Google, Blake Lemoine, svoju teóriu o uvedomelej a cítiacej umelej inteligencii zverejnil minulý mesiac. Samotná spoločnosť a viacerí experti na umelú inteligenciu jeho tvrdenia popreli. Google v piatok potvrdil, že Lemoine bol prepustený.
Google predstavil dizajn nových Pixel Watch: Budú konečne konkurenciou pred Apple?
Dokáže viesť konverzáciu, no svedomie vraj nemá
LaMDA (The Language Model for Dialogue Applications) je prelomová technológia spoločnosti Google, ktorá dokáže viesť plynulé konverzácie, a je nástrojom, ktorý chce spoločnosť využívať pri tvorbe chatbotov. Google vo svojom vyjadrení uvádza, že Lemoineove tvrdenia o systéme LaMDA sú kompletne nepodložené a že firma niekoľko mesiacov pracovala na tom, aby sa celá situácia vyjasnila.
„Je poľutovaniahodné, že aj napriek dlhotrvajúcim dialógom na túto tému, sa Blake rozhodol vedome porušiť zamestnanecké postupy a nariadenia pre ochranu dát, medzi ktoré patrí aj ochrana informácií o produktoch,“ znela časť vyjadrenia.
„Náš tím, do ktorého patria experti na technológie, ale aj na etiku, sa venoval obavám, ktoré Blake ohľadom našich princípov týkajúcich sa umelej inteligencie, vyvolal. Informovali sme ho, že sme nenašli dôkazy, ktoré by podporovali jeho tvrdenia. Nie sú žiadne dôkazy, ktoré by potvrdzovali, že LaMDA má vedomie.“ uviedol hovorca spoločnosti Google, Brian Gabriel. Samotný Lemoine sa pre BBC vyjadril, že spolupracuje s právnikmi a situáciu odmietol bližšie komentovať.
Porušenie nariadení o mlčanlivosti
Blake Lemoine pracoval pre tím, ktorý sa podieľal na vývoji umelej inteligencie. Pre The Washington Post uviedol, že jeho úlohou bolo testovať, či technológia nepoužíva diskriminačný alebo nenávistný jazyk. LaMDA podľa neho ukazovala známky sebauvedomenia a dokázala viesť konverzácie o témach ako náboženstvo, pocity, či obavy. Práve to ho viedlo k presvedčeniu, že za pôsobivými jazykovými zručnosťami sa môže skrývať tiež uvedomelá myseľ.
Jeho tvrdenia Google poprel a Lemoine dostal nútené voľno, keďže porušil nariadenia o mlčanlivosti. Ako dôkaz svojich tvrdení Lemoine zverejnil konverzáciu, ktorú spolu s kolegom mali so systémom LaMDA. Google si uvedomuje možné riziká, ktoré súvisia s tým, ako reálne môže systém LaMDA pôsobiť.
Podľa vyjadrenia k zodpovednému vývoju umelej inteligencie pristupujú veľmi vážne. Akékoľvek pripomienky zamestnancov sú taktiež brané vážne a podrobne preverené. Svoje stanovisko spoločnosť Google uzavrela tým, že Blakeovi želajú všetko dobré.
Poď na náš TikTok a pukneš od smiechu! Nové sketche každý týždeň
Zdieľať na
Zdieľaní