I slutningen af dagen vil det være teknisk-mættede menneskelige teknokrater, ikke programmer, der skaber de anti-menneskelige politikker og resultater, der skader menneskeheden. De vil gemme sig bag AI for at undslippe ansvaret, og alle vil tro, at algoritmerne gjorde dem i.⁃ TN Editor
Ideen om små grupper af mennesker, der har kontrol over nogle af de mest magtfulde våben, der nogensinde er bygget, er skræmmende, men det er den virkelighed, vi lever i. I den ikke så fjerne fremtid kunne den utrolige magt og ansvar overleveres til AI og robotsystemer, der allerede er i aktiv udvikling. I et par åbne breve til premierministrene i Australien og Canada beder hundreder af AI-forskere og videnskabsfolk om, at det ikke skal ske.
Frygten, siger de, er, at det at fjerne det menneskelige element fra beslutninger om liv og død kunne indlede en destruktiv tidsalder, der i sidste ende staver menneskets ende. AI-våbensystemerne er, som forskerne udtrykte det, "masseødelæggelsesvåben", som skal forbydes direkte, før de kan gøre nogen alvorlig skade.
"Delegering af beslutninger om liv eller død til maskiner krydser en grundlæggende moralsk linje - uanset hvilken side der bygger eller bruger dem," skriver brevet forklarer. ”At spille russisk roulette med andres liv kan aldrig retfærdiggøres kun på grundlag af effektivitet. Dette er ikke kun et grundlæggende spørgsmål om menneskerettigheder. Beslutningen om at forbyde eller indføre autonome våben går til kernen i vores menneskehed. ”
I en omgivelse, hvor computere har det ultimative udsagn om, hvorvidt de skal indgå i fjendtlige handlinger - også under dekke af at forsvare deres egne territorier eller beskytte befolkningen, de er programmeret til at beskytte - kunne konflikter eskalere meget hurtigere end mennesker nogensinde har set. Uger, måneder eller endda år med udstationering og diplomati kan blive til få minutter eller endda sekunder, med missiler, der flyver, før mennesker endda kan begynde at gribe ind. Og så er der selvfølgelig spørgsmålet om, at AI manipuleres på uforudsete måder.
”Disse vil være masseødelæggelsesvåben,” siger forskerne. ”En programmør vil være i stand til at kontrollere en hel hær. Hvert andet masseødelæggelsesvåben er forbudt: kemiske våben, biologiske våben, endda atomvåben. Vi skal tilføje autonome våben til listen over våben, der er moralsk uacceptabelt at bruge. ”
wpDiscuz