499 forskare varnar för AI-attacker mot elnät och sjukvård

Det öppna brevet har 499 underskrifter. Forskarna bakom det menar att attacker som utförs med hjälp av AI kan bli allvarligare framöver. De kan också riktas mot kritisk infrastruktur, alltså de system som samhället behöver för att fungera.

Två konkreta förslag

Enligt Ekot innehåller brevet två förslag:

• AI-bolagen ska koppla bort alla modeller som har cyberförmåga från internet.
• Ett nytt internationellt organ ska bildas. Det ska ta fram en praxis för AI-säkerhet.

DN beskriver brevet som ett krav på att AI-bolagen skärper sig. En av dem som har skrivit under är Nobelpristagaren Geoffrey Hinton.

Svenska forskare oroade

Mikael Asplund vid Linköpings universitet säger till Ekot att väldigt många system kan vara sårbara. Han pekar ut elnätet och sjukvården som möjliga mål för attacker.

Andrei Sabelfeld, forskare vid Chalmers, säger till DN att nästa incident kan bli mycket allvarligare. Det framgår inte vilken tidigare händelse han syftar på.

Vad det betyder för dig

El och vård är tjänster som alla i Sverige är beroende av varje dag. Om sådana system blir mål för AI-attacker kan följderna märkas direkt i vardagen, och det är därför forskarna vill att skyddet byggs upp innan något händer.

Brevet är ett upprop och inte ett beslut. Det framgår inte hur AI-bolagen har tagit emot kraven, eller om några länder ställer sig bakom idén om ett nytt internationellt organ.