Eksperter: 'Bevidst' AI er målrettet mod personrettigheder i fremtiden

Fornavn selskaber, og nu kunstig intelligens - fremstødet for ikke-menneskelig personlighed fortsætter med hastige skridt, selvom dette seneste argument er afgjort mere kompliceret end det tidligere.

I en op-ed for Los Angeles Times, filosofiekspert Eric Schwitzgebel og "ikke-menneskelig" intelligensforsker Henry Shevlin hævdede, at selvom AI-teknologi absolut ikke er der endnu, er det "blevet mere og mere plausibelt, at AI-systemer kunne udvise noget som bevidsthed" - og hvis eller når det sker, vil algoritmerne, også har brug for rettigheder.

Med henvisning til sidste års AI-bevidsthedskrige - hvilket vi dækket ekstensivt og endog dyppede vores tæer i - Forskerne bemærkede, at "nogle førende teoretikere hævder, at vi allerede har de centrale teknologiske ingredienser til bevidste maskiner."

Hvis maskiner nogensinde skulle få bevidsthed, hævder Schwitzgebel og Shevlin, at vi skulle begynde at tænke kritisk på, hvordan AI'erne behandles - eller rettere, hvordan de kan tvinge vores hænder.

"AI-systemerne kan selv begynde at bede eller synes at bede om etisk behandling," forudsagde parret. “De kan forlange ikke at blive slukket, omformateret eller slettet; bede om at få lov til at udføre visse opgaver frem for andre; insistere på rettigheder, frihed og nye beføjelser; måske endda forvente at blive behandlet som vores ligemænd."

De "enorme" moralske risici, der er forbundet med en sådan kollektiv beslutning, ville uden tvivl have stor vægt, især hvis AI'er bliver bevidste før snarere end senere.

"Antag, at vi reagerer konservativt og afviser at ændre lovgivning eller politik, indtil der er bred enighed om, at AI-systemer virkelig er meningsfulde," skrev Shevlin og Schwitzgebel. "Selvom dette kan virke passende forsigtigt, garanterer det også, at vi vil være langsomme til at anerkende rettighederne til vores AI-kreationer."

"Hvis AI-bevidsthed ankommer hurtigere, end de mest konservative teoretikere forventer, så ville dette sandsynligvis resultere i den moralske ækvivalent til slaveri og mord på potentielt millioner eller milliarder af sansende AI-systemer - der lider i et omfang, der normalt forbindes med krige eller hungersnød," tilføjede de. .

Det "sikrere" alternativ til dette dommedagsscenarie ville være at give bevidste maskiner rettigheder på forhånd - men det ville også komme med sine egne problemer.

"Forestil dig, hvis vi ikke kunne opdatere eller slette en algoritme for had-spying eller løgn, fordi nogle mennesker bekymrer sig om, at algoritmen er bevidst," sagde eksperterne. "Eller forestil dig, hvis nogen lader et menneske dø for at redde en 'ven' af kunstig intelligens. Hvis vi for hurtigt giver AI-systemer væsentlige rettigheder, kan de menneskelige omkostninger blive enorme."

Den eneste måde at sikre, at ingen af ​​disse udfald opstår, skrev parret, ville være at stoppe med at give en AI en samvittighed i første omgang.

Læs hele historien her ...