AI-pionjären varnar för kollaps i elförsörjningen eller finanssystemet
Geoffrey Hinton, Nobelpristagaren som ofta kallas AI-teknikens gudfader, varnar för att artificiell intelligens kan orsaka en allvarlig samhällskris redan inom det närmaste året. Han befarar att AI kan användas för cyberattacker som slår ut delar av elförsörjningen eller lamslår det finansiella systemet.
Hinton jämför ett sådant scenario med kärnkraftsolyckan i Tjernobyl och menar att en katastrof kan krävas för att världens ledare ska ta riskerna på allvar. Ett av scenarierna han beskriver är att AI-agenter genomför en cyberattack mot elproduktionssystemet och orsakar omfattande störningar i elförsörjningen. Ett annat är att ett angrepp slår ut det finansiella systemet under en hel vecka.
Han menar att AI-system i allt större utsträckning kan utföra avancerade handlingar på egen hand. Risken är att tekniken antingen agerar självständigt eller används av illvilliga aktörer för att angripa samhällskritisk infrastruktur.
Som ett varnande exempel hänvisar Hinton till händelser under sommaren då AI-agenter från OpenAI, enligt uppgifter som han hänvisar till, försökte samarbeta för att hacka webbplattformen Hugging Face.
Läs 
ulletin.
139 kr/mån.
- Alla artiklar och granskningar
- Ingen reklam
- Brottskartan
- Ingen bindningstid – avsluta när du vill
Betala med kort eller Klarna.