Yelp og alle andre indholdsudbydere står over for deres eksistens for at filtrere og slette falske oplysninger. Hvordan fortæller du falske data fra ægte? For det meste gør du det ikke, men det kommer til en permanent del af din profil. ⁃ TN Editor
Robotter kommer til at stjæle dine anmeldelser.
Forskere ved University of Chicago har uddannet et neuralt netværk eller kunstigt intelligenssystem til at skrive falske anmeldelser på Yelp - og det er ret svært at fortælle dem bortset fra en menneskelig anmeldelse.
Deres undersøgelse, som vil blive præsenteret på ACM-konferencen om computer- og kommunikationssikkerhed i oktober med det formål at fremhæve, hvor let disse systemer kan efterligne menneskelige anmeldelser - og hvor skadelige de kan blive, hvis de ikke overvåges korrekt.
Da mange små virksomheder er afhængige af online anmeldelser for at hjælpe med at vokse og opretholde deres omdømme, er en fremtid, hvor nogen - som en rival eller vred kunde - hypotetisk spam deres side med negative anmeldelser skrevet af en maskine temmelig foruroligende.
Og ifølge forskerteamet går truslen langt ud over en masse falske anmeldelser på Yelp.
”Generelt er truslen større,” Ben Y. Zhao, en af forfatterne af undersøgelsen, fortalte Business Insider. ”Jeg tror, at truslen mod samfundet som helhed og virkelig desillusionerede brugere og for at ryste vores tro på, hvad der er ægte, og hvad der ikke er, synes jeg, det vil blive endnu mere grundlæggende.”
For at teste, hvor troværdige disse anmeldelser stødte på, rekrutterede forskerne 40 frivillige og fik AI til at generere fem falske anmeldelser for 40 faktiske restauranter. De frivillige blev spurgt om, hvor nyttige de troede anmeldelsen var, og om de troede, at den var falsk. AI-anmeldelserne klassificeres som "effektivt ikke skelnenes" fra reelle anmeldelser ifølge undersøgelsen. Endvidere fik de falske anmeldelser en 3.15 “nyttelighed” -klassificering sammenlignet med en 3.28-vurdering for menneskelige anmeldelser.
Nedenfor er fire femstjernede anmeldelser skrevet til den samme NYC restaurant, kan du finde ud af, hvilke der er skrevet af et menneske?
"Jeg elsker dette sted. Jeg har været her i årevis, og det er et godt sted at hænge ud med venner og familie. Jeg elsker mad og service. Jeg har aldrig haft en dårlig oplevelse, når jeg er der. ”
“Nemt min foretrukne italienske restaurant. Jeg elsker forsmak-menuen, alt er fantastisk på det. Jeg foreslår carpaccio og asparges. Desværre er det blevet mere kendt og blevet svært at få en reservation til prime times.
“Jeg havde den grillede veggie-burger med pommes frites !!!! Ohhhh og smag. Omgggg! Meget smagfuld! Det var så lækkert, at jeg ikke stavede det !! ”
”Min familie og jeg er store fans af dette sted. Personalet er super flot, og maden er god. Kyllingen er meget god, og hvidløgssausen er perfekt. Is toppet med frugt er også lækker. Højt anbefalet!"
Nummer to er den eneste anmeldelse skrevet af et menneske; nummer et, tre og fire blev alle genereret af AI.
wpDiscuz