Gagnaeitrun

e. data poisoning

Einnig kallað: data poisoning

Árás þar sem fölskum eða skaðlegum gögnum er laumað inn í gögn sem líkan lærir af eða sækir svör í.

Gagnaeitrun er árás þar sem árásaraðili kemur menguðum gögnum inn í þjálfunargögn líkans eða í gögn sem það sækir í við notkun, til dæmis þekkingargrunn í leitarstuddri svörun. Markmiðið getur verið að skekkja svör almennt, koma röngum upplýsingum á framfæri eða búa til falinn veikleika sem tiltekið orð eða mynstur virkjar.

Rannsóknir benda til þess að tiltölulega fá menguð skjöl geti dugað til að hafa áhrif á líkan. Varnir felast í því að þekkja uppruna gagna, takmarka hverjir geta bætt efni í þekkingargrunna og prófa líkön eftir breytingar.

Dæmi úr starfi

Skjalastjóri hjá stofnun sér að einhver hefur bætt skjali með röngum verklagsreglum í sameiginlega möppu sem spjallmennið leitar í og takmarkar hverjir mega bæta þar við efni.

Tengd hugtök

Öll hugtök