Krav på öppen källkod och öppna dataset för offentlig AI?

[elias]

Jag är rädd för en framtid där det offentliga fattar beslut med hjälp av någon sorts system, där medborgaren som frågar hur beslut fattas för till svar att "det här har AI-systemet beslutat", och hur AI-systemet fungerar kan man inte veta eftersom det är stängt och ägt av företag.

Finns det krav på att AI-system som används av det offentliga måste vara öppen källkod och att data som används måste vara öppet, så att man kan granska hur systemen fungerar?

[Maria_Dalhage]

@elias relevant synpunkt. Mig veterligen har vi ingen sådan lag och därför är diskussionen viktig.

På Arbetsförmedlingen har vi en tjänst som används flitigt där man kan se om man har rätt till att omfattas av så kallade Nystartsjobb. För att just undvika känslan av blackbox så tillhandahåller vi källkoden precis i anslutning till tjänsten så även den som inte är utvecklare lätt ska kunna ta del av källkoden. Skälen till detta är två, dels tror vi att det finns de som har nytta av koden för liknande tjänster, dels vill vi skapa och behålla förtroende.

Transparens leder till förtroende.

https://arbetsformedlingen.se/for-arbetssokande/extra-stod/stod-a-o/nystartsjobb#Testa