#Nová generácia modelov umelej inteligencie dokáže vytvárať „kreatívne“ obrázky na požiadanie na základe textovej výzvy. Aj keď je výstup týchto modelov často zarážajúci, je ťažké presne vedieť, ako prinášajú výsledky. Minulý týždeň vedci začali pracovať s hypotézou, že model DALL-E 2 mohol vynájsť svoj vlastný tajný jazyk na rozprávanie o objektoch. Jedným bodom, ktorý podporuje túto teóriu, je skutočnosť, že jazykové modely AI nečítajú text tak ako my. Namiesto toho rozdelia vstupný text na „tokeny“ pred jeho spracovaním.
Vnímanie inteligencie
Rôzne prístupy „tokenizácie“ majú rôzne výsledky. Zaobchádzanie s každým slovom ako so žetónom sa javí ako intuitívny prístup, ale spôsobuje problémy, keď majú rovnaké žetóny rôzny význam (napríklad ako list znamená rôzne veci, ako časť stromu alebo napísaný list).
Nedávny výskum objavil protichodné „ spúšťacie frázy “ pre niektoré modely umelej inteligencie v jazyku – krátke nezmyselné frázy, ako napríklad „zónové tapping fiennes“, ktoré môžu spoľahlivo spustiť modely, aby chrlili rasistický, škodlivý alebo neobjektívny obsah. Tento výskum je súčasťou pokračujúceho úsilia pochopiť a kontrolovať , ako sa komplexné systémy hlbokého učenia učia z údajov.
Má vlastný jazyk?
Vyzvaním DALL-E 2, aby vytvoril obrázky obsahujúce textové titulky a následne vložil výsledné titulky späť do systému, vedci dospeli k záveru, že DALL-E 2 si myslí , že Vicootes znamená „ zelenina“, zatiaľ čo Wa ch zod rea odkazuje na „ morské tvory “.
Jednou z možností je, že „blbé“ frázy súvisia so slovami z neanglických jazykov. Napríklad Apoploe , ktorý zrejme vytvára obrazy vtákov, je podobný latinskému Apodidae , čo je binomický názov čeľade vtáčích druhov. Zdá sa to ako prijateľné vysvetlenie. Napríklad DALL-E 2 bol totiž trénovaný na veľmi širokom spektre údajov z internetu, ktoré obsahovali mnoho neanglických slov.
Ak si umelá inteligencia interpretuje nezmyselné slová neúmyselným spôsobom, môže tiež interpretovať zmysluplné slová neúmyselným spôsobom. Systém DALL-E 2 filtruje vstupný text, aby používateľom zabránil vo vytváraní škodlivého alebo urážlivého obsahu, ale „tajný jazyk“ nezmyselných slov môže používateľom umožniť obísť tieto filtre.
Chceš byť nonstop v obraze?
Zdieľať na