Facebook je zaprl eksperiment, potem ko je AI izumila lastni jezik
Raziskovalci zaključijo projekt, potem ko stroji razvijejo lasten način komuniciranja, ki je ljudem nerazumljiv
Inteligentni roboti opravljajo vse več vlog
Getty Images
Bob: zmorem vse ostalo. . . . . . . . . . . . . .
Alice: žoge imajo nič do mene do mene do mene do mene do mene do mene do mene do
Bob: ti jaz vse ostalo. . . . . . . . . . . . . .
Alice: žoge imajo žogo do mene do mene do mene do mene do mene do mene
Bob: zmorem vse ostalo. . . . . . . . . . . . . .
Alice: žoge imajo žogo do mene do mene do mene do mene do mene do mene
Čeprav je izgledal kot scenarij iz resnično grozljive televizijske serije, se je ta pogovor dejansko zgodil med dvema programoma umetne inteligence, ki sta se razvila znotraj Facebooka, da bi izpopolnila umetnost pogajanj.
Sprva sta se med seboj pogovarjala v preprosti angleščini. Toda potem so raziskovalci ugotovili, da so naredili napako pri programiranju strojev.
'Ni bilo nagrade, če bi se držali angleškega jezika,' je povedal Dhruv Batra, gostujoči raziskovalec iz Georgia Tech pri Facebook AI Research (Fair). FastCo .
Ker sta se ta dva agenta potegovala za najboljšo ponudbo, »nobeden ni bil ponujen nikakršne spodbude, da bi govoril kot običajna oseba,« pravi FastCo.
Tako sta se začela razhajati in sčasoma preurediti razumljive besede v navidez nesmiselne stavke, zaradi česar je bil poskus prekinjen.
Facebook je moral zapreti AI, ker je razvil svoj jezik pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 31. julij 2017
'Agenti (ali programi) se bodo oddaljili od razumljivega jezika in sami izumili kodne besede,' je pojasnil Batra. Če petkrat rečem 'the', si to razlagate tako, da hočem pet izvodov tega predmeta. To se ne razlikuje tako od načina, kako skupnosti ljudi ustvarjajo kratice.'
Toda raziskovalci so želeli poudariti, da eksperimenta niso opustili zaradi skrbi glede potencialno negativnih učinkov komunikacije robotov.
Raziskovalec poštenja Mike Lewis je za FastCo povedal, da so se preprosto odločili, da so 'naš interes imeti bote, ki bi se lahko pogovarjali z ljudmi,' ne pa učinkovito drug z drugim, in so se zato odločili, da od njih zahtevajo, da si pišejo čitljivo.
To ni prvič, da so stroji z umetno inteligenco ustvarili svoj jezik.
Novembra lani je Google razkril, da je umetna inteligenca, ki jo uporablja za svoje orodje Translate, ustvarila svoj lasten jezik, v katerega bi prevajal fraze in iz njega, preden bi zagotovil besede v ciljnem jeziku.
Poročanje o takratnem razvoju, Tech Crunch je dejal: 'Zdi se, da ta 'interlingva' obstaja kot globlja raven reprezentacije, ki vidi podobnosti med stavkom ali besedo.'
'Lahko je nekaj sofisticiranega ali pa nekaj preprostega,' je dodala spletna stran, a 'dejstvo, da sploh obstaja - izvirno ustvarjanje lastnega sistema, ki bi pomagalo pri razumevanju konceptov, za katerega ni bil usposobljen za razumevanje — je, filozofsko gledano, precej močna stvar.
Ta nedavni razvoj je privedel do etičnih razprav o možnih težavah med stroji, ki komunicirajo med seboj brez človeškega posredovanja.
'V primeru Facebooka je edina stvar, ki so jo lahko naredili klepetalni roboti, da so izumili učinkovitejši način trgovanja,' pravi Gizmodo .
Vendar pa obstajajo 'verjetno dobri razlogi, da inteligentnim strojem ne dovolimo, da razvijejo svoj jezik, ki ga ljudje ne bi mogli smiselno razumeti,' dodaja spletno mesto.
'Upamo, da bodo ljudje tudi dovolj pametni, da ne bodo vključevali eksperimentalnih programov strojnega učenja v nekaj zelo nevarnega, na primer v vojsko lasersko obremenjenih androidov ali jedrski reaktor.'
