Áhættumikið gervigreindarkerfi

e. high-risk AI system

Einnig kallað: high-risk AI system, áhættumikil gervigreindarkerfi

Gervigreindarkerfi sem gervigreindarreglugerð ESB gerir strangar kröfur til, t.d. við ráðningar, lánshæfismat og námsmat.

Áhættumikið gervigreindarkerfi er hugtak úr gervigreindarreglugerð ESB (2024/1689). Það nær annars vegar yfir kerfi sem eru öryggisíhlutir í vörum sem falla undir aðrar reglur ESB, t.d. lækningatæki, og hins vegar kerfi á tilteknum sviðum: ráðningar og mat á starfsfólki, aðgang að menntun og námsmat, lánshæfismat, aðgang að opinberri þjónustu, löggæslu, landamæraeftirlit, réttarvörslu, mikilvæga innviði og lífkennagreiningu.

Slík kerfi þurfa m.a. áhættustýringu, vönduð gögn, tæknilega skjölun, skráningu atburða, gagnsæi og mannlegt eftirlit. Bæði þeir sem bjóða kerfin og þeir sem nota þau í starfsemi sinni bera skyldur. Almennt spjallmenni telst að jafnaði ekki áhættumikið, en notkun þess í ráðningum getur breytt því.

Dæmi úr starfi

Mannauðsstjóri skoðar kerfi sem raðar umsækjendum eftir ferilskrám. Hún áttar sig á að það telst áhættumikið gervigreindarkerfi og fær lögfræðing til að fara yfir skyldur fyrirtækisins áður en það er tekið í notkun.

Tengd hugtök

Ekkert námsefni er tengt þessu hugtaki enn.

Öll hugtök