Kako pametne umetne inteligence zvočnikov, kot sta Alexa in Siri, krepijo pristranskost glede spola
Unesco poziva tehnološka podjetja, naj ponudijo spolno nevtralne različice svojih glasovnih pomočnikov
Appleov HomePod poganja glasovni pomočnik Siri
Justin Sullivan/Getty Images
Pametni zvočniki, ki jih poganjajo glasovni pomočniki z umetno inteligenco (AI), ki zvenijo ženski, krepijo pristranskost glede spola, v skladu z novim poročilom ZN.
Raziskava Unesco (Organizacija Združenih narodov za izobraževanje, znanost in kulturo) je pokazala, da pomočniki umetne inteligence, kot sta Amazonova Alexa in Appleova Siri, ohranjajo idejo, da bi morale biti ženske podrejene in tolerantne do slabega ravnanja, ker so sistemi zavezujoči in si želijo ugajati, The Daily Telegraph poročila.
Poročilo, ki se imenuje I'd blush, if I could, v zvezi s frazo, ki jo je izrekla Siri po seksualnem komentarju, pravi, da tehnološka podjetja, ki svoje glasovne pomočnike privzeto naredijo ženske, predlagajo, da so ženske poslušne pomočnice, ki so na voljo na dotik. gumba, dodaja časnik.
Agencija tudi obtožuje tehnološka podjetja, da niso vzpostavila ustreznih zaščitnih ukrepov proti sovražnemu, žaljivemu in spolno izraženemu jeziku, poroča The Verge .
Namesto tega se večina umetne inteligence na agresivne komentarje odzove z zvijačo šalo, ugotavlja spletno mesto s tehničnimi novicami. Če jo na primer prosijo, naj naredi sendvič, Siri reče: Ne morem. Nimam nobenih začimb.
Podjetja, kot sta Apple in Amazon, ki imata večinoma moške inženirske ekipe, so zgradila sisteme umetne inteligence, zaradi katerih njihovi feminizirani digitalni pomočniki pozdravijo verbalno zlorabo s spogledovanjem »catch-me-if-you-case«, piše v poročilu Unesco.
Kaj so odkrile druge raziskave?
Poročilo Unesco navaja številne študije, vključno z raziskavo ameriškega tehnološkega podjetja Robin Labs, ki kaže, da je vsaj 5 % interakcij z glasovnimi pomočniki nedvoumno spolno eksplicitnih.
Podjetje, ki razvija digitalne pomočnike, meni, da bo ta številka verjetno veliko višja zaradi težav pri zaznavanju spolno sugestivnega govora, Skrbnik poročila.
Agencija ZN opozarja tudi na študijo raziskovalnega podjetja Gartner, ki napoveduje, da bodo ljudje do leta 2020 imeli več pogovorov z glasovnim pomočnikom v pametnem zvočniku kot njihovi zakonci.
Glasovni pomočniki že obvladajo približno milijardo nalog na mesec, od predvajanja pesmi do stika s službami za nujne primere.
Čeprav nekateri sistemi uporabnikom omogočajo spreminjanje spola svojega glasovnega pomočnika, večina privzeto aktivira očitno ženske glasove, BBC poročila.
Poročilo Unesco ugotavlja, da ta očitna pristranskost glede spola zahteva nujno pozornost.
Kako bi se lahko tehnološka podjetja lotila tega vprašanja?
Unesco trdi, da bi bilo treba od podjetij zahtevati, da svoje glasovne pomočnike sporočijo, da niso ljudje, ko komunicirajo z ljudmi, poroča The Sunday Times .
Agencija tudi predlaga, da bi morali uporabniki imeti možnost, da izberejo spol svojega glasovnega pomočnika, ko dobijo novo napravo, in da bi morala biti na voljo spolno nevtralna možnost, dodaja časnik.
Poleg tega bi morala tehnološka podjetja programirati glasovne pomočnike, da obsojajo verbalno zlorabo ali spolno nadlegovanje z odgovori, kot je ne ali to ni primerno, pravi Unesco.
Tehnološka podjetja se še niso odzvala na študijo.
