Ekspert: AI-soldater udvikler 'moralsk kompas' og trosser ordrer

Wikimedia Commons
Del denne historie!
Det er allerede blevet demonstreret, at AI-algoritmer viser deres skabers partier, så hvorfor ikke mordiske intentioner også? Technocrats er så optaget af deres Pollyanna-opfindelser, at de ikke kan se den logiske ende på deres eksistens. ⁃ TN Editor

Morderiske robotsoldater vil blive så avancerede, at de kunne udvikle deres egen moralske kode til voldeligt at trosse ordrer, hævder en AI-ekspert.

Eks-cybernetikingeniør Dr. Ian Pearson forudsiger, at vi bevæger os mod en fremtid med bevidste maskiner.

Men hvis robotter sættes i aktion af militære magter, advarer futurologen om, at de er i stand til at fremmane deres eget ”moralske synspunkt”.

Og hvis de gør det, hævder eks-raketforskeren, at de kan vende sig mod de mennesker, der sender dem ud til kamp.

Dr Pearson, der blogger for Futurizon, fortalte Daily Star Online: ”Efterhånden som AI fortsætter med at udvikle sig, og når vi bevæger os ned ad vejen mod bevidsthed - og det vil ikke være en ting fra en dag til dag, men vi laver gradvis computere mere mere sofistikeret - på et eller andet tidspunkt giver du dem adgang til moralsk uddannelse, så de selv kan lære moral.

”Du kan give dem ræsonnementskapaciteter, og de kan komme med en anden moralsk kode, som sætter dem på en højere piedestal end de mennesker, de skal tjene.

Da han blev spurgt, om dette kunne vise sig at være fatalt, svarede han: ”Ja, selvfølgelig.

”Hvis de har kontrol over våben, og de beslutter, at de er et overordnet moralsk væsen end de mennesker, de skal bevogte, kan de muligvis træffe beslutninger om, at visse mennesker skal dræbes for at beskytte den større befolkning.

”Hvem ved, hvilke beslutninger de måtte tage?

”Hvis du har en fyr på en slagmark, der beder soldaterne om at skyde denne flok mennesker af en eller anden grund, men computeren mener noget andet, er computeren ikke overbevist om det, det kan konkludere, at soldat, der giver ordrer, er den værste lovovertrædende snarere end de mennesker, han forsøger at dræbe, så det kan dreje rundt og dræbe ham i stedet.

"Det er fuldt ud muligt, det afhænger af, hvordan systemerne er skrevet."

Dr Pearson's advarsel kommer blandt voksende bekymringer over fuldt autonome robotter, der bruges i krig.

Læs hele historien her ...

Tilmeld
Underretning af
gæst
6 Kommentarer
Ældste
Nyeste Mest afstemt
Inline feedbacks
Se alle kommentarer
pyra

Idiotisk. Tænker nogen af ​​disse computerdorke nogensinde på, hvad de siger? Jeg mener, tænk det forbi spidsen af ​​deres næser.

Ordsproget, "at de siges at være kloge, de blev tåber ..." har meget relevans her.