Når forskellige AI-programmer udvikler deres egne sprog til at kommunikere med hinanden, kan mennesker måske ikke være i stand til at oversætte, især hvis AI lærer at opbygge sin egen kryptering for at 'skjule' sig for mennesker. ⁃ TN Editor
Igor Mordatch er arbejder på at bygge maskiner, der kan føre en samtale. Det er noget, så mange mennesker arbejder på. I Silicon Valley er chatbot nu en bona fide buzzword. Men Mordatch er anderledes. Han er ikke en sprogforsker. Han beskæftiger sig ikke med AI-teknikker, der typisk når ud til sprog. Han er en robotist, der begyndte sin karriere som animator. Han tilbragte tid hos Pixar og arbejdede på Toy Story 3, imellem stints som akademiker på steder som Stanford og University of Washington, hvor han lærte robotter at bevæge sig som mennesker. ”At skabe bevægelse fra bunden er det, jeg altid var interesseret i,” siger han. Nu samles al denne ekspertise på en uventet måde.
Født i Ukraine og opvokset i Toronto, er 31-åringen nu besøgende forsker på OpenAI, det kunstige intelligenslaboratorium, der blev startet af Tesla-grundlægger Elon Musk og Y-kombinatorpræsident Sam Altman. Der udforsker Mordatch en ny sti til maskiner, der ikke kun kan tale med mennesker, men med hinanden. Han bygger virtuelle verdener, hvor softwarebots lærer at skabe deres eget sprog ud af nødvendighed.
Som beskrevet i et forskningsdokument, der blev offentliggjort af OpenAI denne uge, skabte Mordatch og hans samarbejdspartnere en verden, hvor bots har til opgave at udføre visse opgaver, som at flytte sig selv til et bestemt vartegn. Verden er enkel, bare en stor hvid firkant - alle i to dimensioner - og botterne er farvede former: en grøn, rød eller blå cirkel. Men universets pointer er mere kompleks. Verden giver botterne mulighed for at skabe deres eget sprog som en måde at samarbejde på, hvilket hjælper hinanden med at udføre disse opgaver.
Alt dette sker gennem hvad der hedder forstærkning læring, den samme grundlæggende teknik, som understøttede AlphaGo, maskinen fra Googles DeepMind AI-lab, der knækkede det gamle Go-spil. Grundlæggende navigerer botterne deres verden gennem ekstrem prøve og fejl, idet de omhyggeligt holder styr på, hvad der fungerer, og hvad der ikke når de når for en belønning, som at ankomme til et vartegn. Hvis en bestemt handling hjælper dem med at opnå denne belønning, ved de at fortsætte med at gøre det. På samme måde lærer de at opbygge deres eget sprog. At fortælle hinanden, hvor de skal hen, hjælper dem alle med at få steder hurtigere.
Som Mordatch siger: "Vi kan reducere succes med dialog til: Endte du med at komme til den grønne dåse eller ikke?"
For at opbygge deres sprog tildeler botterne tilfældige abstrakte karakterer til enkle begreber, de lærer, når de navigerer i deres virtuelle verden. De tildeler karakterer til hinanden, til placeringer eller objekter i den virtuelle verden og til handlinger som "gå til" eller "se på." Mordatch og hans kolleger håber, at når disse bot-sprog bliver mere komplekse, kan relaterede teknikker derefter oversætte dem til sprog som engelsk. Det er langt væk - i det mindste som et praktisk stykke software - men en anden OpenAI-forsker arbejder allerede på denne form for "oversætterbot."
I sidste ende, siger Mordatch, kan disse metoder give maskiner et dybere greb om sproget, faktisk vise dem, hvorfor sprog eksisterer - og det giver et springbræt til ægte samtale, en computergrænseflade, som computerforskere længe har drømt om, men aldrig rent faktisk har trukket af.
wpDiscuz