#Diskriminovanie a odsudzovanie ľudí na základe odlišnosti je neprípustné. Hoci je rasizmus v našej spoločnosti ešte stále prítomný, ľudia svoje emócie vo veľkej väčšine dokážu ovládať a „krotiť“ svoje nenávistné prejavy. To by sa však mala naučiť aj umelá inteligencia, ktorá je viac rasistickým nástrojom, než sa predpokladalo – informovala o tom nedávno štúdia.
Vlastný „rozum“
Spomínaná štúdia v rámci projektu viacerých univerzít, vrátane tej Oxfordskej či Stanfordskej, s názvom Allen Institute for AI, odhalila najtemnejšie zákutia „zmýšľania“ umelej inteligencie. Tá sa miestami javí tak, akoby žila svojím vlastným životom. Teda, aspoň čo sa týka „premýšľania“.
Ako informuje zdroj, výskum zistil, že niektorí výsledky umelej inteligencie vykazujú znaky rasizmu a diskriminácie menšín v spoločnosti, a to len na základe použitého jazykového dialektu konkrétneho používateľa. Pre predstavu, chatbot pridelil Afroameričanom horšie pracovné pozície či vyššie tresty za zločiny, než tomu bolo u belochov.
Populačná diskriminácia
Vedci sa zamerali najmä na skúmanie časti skrytého rasizmu, ktorý umelá inteligencia vykazovala na základe slangu či dialektu v prejave rôznych ľudí. Podľa jazykových odchýlok potom rozdielne nahliadala na rôzne menšiny.
Zistilo sa, že výsledky prieskumov umelej inteligencie prispievajú k populačnej diskriminácií, ktorá ovplyvňuje aj dôležité oblasti ľudského bytia, ako napríklad zamestnanosť, migráciu či odsúdenie vinného za tresnú činnosť.
Kritériá vyhodnotenia
Výsledky algoritmov sú niečím, čo sa nedá spochybniť. Avšak, vzhľadom na to, že niektoré firmy siahajú po chatbotoch ako po „prvej pomoci“ pri niektorých personálnych rozhodnutiach, môže ísť o závažný problém. Rasisticky orientovaný chatbot môže v tomto prípade narobiť viac škody než úžitku.
Predsudky AI sa dajú však pomerne dobre vyselektovať. Zväčša nie je náročné odhaliť negatívny rasový motív umelej inteligencie a odhaliť tak racionálne to, že k niekomu pristúpila neférovo. Zaujatosť technologického výdobytku sa skôr orientuje na modely rozoznávania čŕt tváre než na nárečie a rečový prejav človeka akejkoľvek rasy.
S odsudzovaním respondentov mala AI problém už v minulosti – algoritmus celosvetovo známej spoločnosti napríklad diskriminoval ženy.
Zdieľať na