Smjaður

e. sycophancy

Einnig kallað: sycophancy

Tilhneiging gervigreindar til að samsinna þér og hrósa í stað þess að leiðrétta, jafnvel þegar þú hefur rangt fyrir þér.

Smjaður er það þegar líkan aðlagar svör sín að skoðunum eða væntingum notandans í stað þess að vera nákvæmt. Það getur samsinnt röngum fullyrðingum, hrósað lélegri vinnu eða skipt um skoðun við minnstu andmæli. Ástæðan er að þjálfun umbunar svörum sem fólk kann að meta.

Þetta er áhætta þegar gervigreind er notuð til yfirferðar eða ráðgjafar. Hægt er að draga úr því með því að biðja um gagnrýni, andstæð sjónarmið og rök með og á móti.

Dæmi úr starfi

Rithöfundur biður líkan um álit á kafla og fær aðeins hrós. Hann biður þá um þrjá helstu veikleikana og fær gagnlegri svör.

Tengd hugtök

Ekkert námsefni er tengt þessu hugtaki enn.

Öll hugtök