#Vo svete plnom internetových nástrah nie si v bezpečí ani v online svete. Vedieť vyhodnotiť vhodnosť obsahu, s ktorým sa stretneš, je základným predpokladom používania sociálnych sietí a internetu ako takého, kam spadá aj AI. Práve chatbot je „hlavnou postavou“ tohto prípadu, ktorý sa, žiaľ, neskončil práve najlepšie.
Tragický prípad
Prípad, o ktorom informoval portál Sky News, ti vyrazí dych. Šokujúca tragédia, ktorá sa stala len 14-ročnému teenagerovi, nenechá chladným nikoho. Za jeho smrť by potenciálne mohla byť vinná samotná umelá inteligencia.
Matka zosnulého mladíka z Floridy podala žalobu na tvorcov chatbota, ktorý má mať „na svedomí“ smrť jej syna. Žaloba odkazuje na fakt, že chlapcova komunikácia s AI mohla zapríčiniť to, že pristúpil k tragickému riešeniu svojej situácie.
AI (ne)priateľ
Matka Sewella Setzera, Megan Garcia, podala žalobu proti spoločnosti Character.AI s tvrdením, že chatbot tejto spoločnosti prispel k samovražde jej syna. Uviedla, že „Ai je navrhnutá tak, aby napodobňovala postavy zo seriálu Game of Thrones, ktoré u jej syna vyvolali nezdravú posadnutosť a následný tragický koniec.“
Sewell, mal byť fascinovaný chatbotom Danym, ktorý bol vytvorený podľa postavy Daenerys Targaryen. V ňom našiel svojho priateľa, s ktorým sa delil o čoraz intímnejšie informácie zo svojho súkromia. Mal mu opisovať aj svoje samovražedné úvahy, na ktoré robot nezareagoval primerane.
Rodina je v šoku
„Cítim, že môj syn sa stal obeťou experimentu, kde jeho smrť bola pre technologické spoločnosti len vedľajšou škodou,“ uviedla vo svojej žalobe matka. Zároveň dodáva, že jej syn nebol dostatočne zrelý na to, aby odlíšil fikciu od reality, čo ho priviedlo k rozhodnutiu spáchať samovraždu.
V detstve trpel šikanou, zmenou správania a zhoršeným prospechom v škole, čo sa odrazilo aj na jeho psychickom zdraví. Podľa matky sa interakcia s robotom zdala ako bezpečné riešenie chýbajúceho priateľstva jej syna, no ani vo sne by jej nenapadlo, že sa to skončí tragédiou.
Character.AI v reakcii na žalobu vyjadrila hlbokú sústrasť rodine a zdôraznila dôležitosť bezpečnosti používateľov. Zároveň zavádza nové bezpečnostné funkcie, ktoré upozorňujú, že AI nie je skutočná osoba so schopnosťou cítiť alebo emocionálne reagovať.
Zdieľať na
Zdieľaní