Når AI's kompleksitet overstiger mands evne til at forstå, hvordan den fungerer, så kan heller ikke konsekvenserne af dens anvendelse forstås. Teknokrater skaber, fordi de kan, med lidt hensyn til sikkerhed eller konsekvens. Tiden kommer, at stikket skal trækkes, så hele systemet nulstilles til menneskelig kontrol. ⁃ TN Editor
Kunstig intelligens vil omforme finansverdenen i det næste årti eller så ved at automatisere investering og andre tjenester - men det kan også indføre urolige systematiske svagheder og risici i henhold til en ny rapport fra World Economic Forum (WEF).
Rapporten konkluderer gennem interviews med snesevis af førende økonomiske eksperter og ledere i branchen og konkluderer, at kunstig intelligens vil forstyrre industrien ved at lade tidlige adoptører outmaneuver konkurrenter. Det antyder også, at teknologien vil skabe mere praktiske produkter for forbrugerne, såsom avancerede værktøjer til styring af personlig økonomi og investeringer.
Men mest bemærkelsesværdig peger rapporten på potentialet for store finansielle institutioner til at bygge maskinelæringsbaserede tjenester, der lever i skyen og får adgang til af andre institutioner.
”Dynamikken i maskinlæring skaber et stærkt incitament til at netværke back office,” siger rapportens hovedforfatter, Jesse McWaters, der leder AI i Financial Services Project på World Economic Forum. "En mere netværksverden er mere sårbar over for cybersikkerhedsrisici, og den skaber også koncentrationsrisici."
Med andre ord kan finansielle systemer, der inkorporerer maskinlæring og fås adgang gennem skyen af mange forskellige institutioner, kunne præsentere et saftigt mål for hackere og et enkelt punkt med systemisk fiasko.
Wall Street vedtager allerede hurtigt maskinlæring, teknologien i centrum af den kunstige intelligens boom. Finansfirmaer har generelt masser af data og masser af incitament til at innovere. Hedgefonde og banker ansætter AI-forskere så hurtigt som de kan, og finanssektoren eksperimenterer med back-office automatisering på en stor måde. Automatiseringen af højfrekvent handel har allerede skabt systemiske risici, som fremhævet af flere løbende handelsbegivenheder, eller "flash nedbrud," i de seneste år.
Andrew Lo, en professor ved MITs Sloan School of Management, undersøger spørgsmålet om systemisk risiko i det finansielle system, og han har tidligere advaret at systemet som helhed kan være sårbart på grund af dets rene kompleksitet.
wpDiscuz
[…] Verdensøkonomiske forum: AI kan forårsage kollaps af det globale finansielle system (technocracy.news) […]