Hlutdrægni

e. bias

Einnig kallað: bias, skekkja, algorithmic bias, hlutdrægni í gögnum

Kerfisbundin skekkja í niðurstöðum gervigreindar sem stafar af gögnum, hönnun eða notkun og getur komið ójafnt niður á hópum.

Hlutdrægni í gervigreind er kerfisbundin skekkja í niðurstöðum sem kemur fram vegna þess hvernig gögn voru valin, hvernig kerfið var hannað eða hvernig það er notað. Ef þjálfunargögn endurspegla fordóma eða ef hópa vantar í þau getur kerfið endurtekið eða aukið þá, til dæmis í ráðningum eða lánamati.

Hlutdrægni getur verið erfitt að sjá í einstökum svörum. Hún kemur oft fram þegar niðurstöður eru bornar saman milli hópa. Ráðstafanir fela í sér betri gögn, prófanir á ólíkum hópum og mannlega yfirferð.

Dæmi úr starfi

Mannauðsstjóri sem notar gervigreind til að flokka umsóknir lætur prófa hvort kerfið raði körlum og konum með sambærilega reynslu á ólíkan hátt.

Tengd hugtök

Ekkert námsefni er tengt þessu hugtaki enn.

Öll hugtök