Verndarreglur

e. guardrails

Einnig kallað: guardrails, öryggisvarnir, varnarrá

Reglur og tæknilegar takmarkanir sem halda gervigreindarkerfi innan marka, til dæmis síur, leyfilegar aðgerðir og samþykkisskref.

Verndarreglur, á ensku guardrails, eru ráðstafanir sem halda hegðun gervigreindarkerfis innan ásættanlegra marka. Þær geta verið tæknilegar, svo sem síur á inntak og úttak, listi yfir leyfðar aðgerðir eða krafa um samþykki fyrir viðkvæmum aðgerðum, eða skipulagslegar, eins og reglur um hvað má setja í kerfið.

Verndarreglur draga úr áhættu en útiloka hana ekki. Þær þarf að prófa og endurskoða og þær koma ekki í staðinn fyrir mannlega yfirferð.

Dæmi úr starfi

Fyrirtæki setur verndarreglur í spjallmenni sitt: það svarar ekki spurningum um laun starfsmanna og vísar öllum beiðnum um breytingar á reikningi til starfsmanns.

Tengd hugtök

Ekkert námsefni er tengt þessu hugtaki enn.

Öll hugtök