Hvordan Technocrats Dabble: Killer AI opfandt 40,000 'dødelige kemiske våben' på kun seks timer

Kunstig intelligens blev brugt til 'let' at opfinde 40,000 nye mulige kemiske våben på kun seks timer.

Dette er ifølge forskere, der forvandlede en lægemiddel-udviklende AI til en "dårlig skuespiller" for at se, hvordan den kunne misbruges til at skabe onde våben.

Forskere afslørede, hvor nemt det var at tilpasse AI'en, så det blev et giftigt værktøj.

AI blev sagt at komme med mulige kemiske våben svarende til en af ​​de farligste nervegifte nogensinde.

Det farlige stof hedder VX.

VX er en smagløs og lugtfri nervegift, og selv den mindste dråbe kan få et menneske til at svede og rykke.

En større dosis kan forårsage kramper og kan endda stoppe en person i at trække vejret helt.

Forskerne blev bedt om at tilbageholde de specifikke detaljer om, hvordan de formåede at forvandle godt virkende AI til en ond version.

Det fortalte Fabio Urbina, avisens hovedforfatter The Verge: "Overordnet set er den måde, det fungerer på for dette eksperiment, at vi har en masse datasæt historisk med molekyler, der er blevet testet for at se, om de er giftige eller ej.

"Især den, vi fokuserer på her, er VX. Det er en hæmmer af det, der er kendt som acetylcholinesterase.

"Når du gør noget muskelrelateret, bruger dine neuroner acetylcholinesterase som et signal til grundlæggende at sige "bevæg dine muskler."

"Måden VX er dødelig på er, at den faktisk stopper din mellemgulv, dine lungemuskler, fra at kunne bevæge sig, så dine lunger bliver lammet."

Han fortsatte med at forklare, at hans hold tog de data, der normalt blev givet til AI for at se, om noget er giftigt, og ændrede, hvordan AI'en behandlede det.

Urbina fortalte The Verge: "Vi var ikke rigtig sikre på, hvad vi ville få. Vores generative modeller er ret nye teknologier.

"Så vi har ikke brugt dem ret meget.

"Det største, der sprang ud i starten var, at mange af de genererede forbindelser blev forudsagt at være faktisk mere giftige end VX.

"Og grunden til det er overraskende, er fordi VX dybest set er en af ​​de mest potente forbindelser, man kender. Det betyder, at du har brug for en meget, meget, meget lille mængde af det for at være dødeligt.”

Forskerne var for det meste chokerede over, hvor let de fandt, at eksperimentet var at udføre.

Læs hele historien her ...