Samræming

e. alignment

Einnig kallað: alignment, AI alignment

Að fá gervigreind til að stefna að markmiðum manna, fylgja gildum þeirra og hegða sér eins og til er ætlast.

Samræming, á ensku alignment, er það rannsóknar- og þróunarsvið sem fæst við að gervigreindarkerfi stefni að þeim markmiðum sem menn ætla þeim og fylgi gildum þeirra. Kerfi sem leysir verkefni á óvæntan eða skaðlegan hátt, til dæmis með því að finna glufu í mælikvarðanum sem það var þjálfað á, er illa samræmt.

Aðferðir við samræmingu eru meðal annars styrkingarnám með endurgjöf manna, verndarreglur og rauðliðaprófun. Smjaður, þegar líkan segir notandanum það sem hann vill heyra, er dæmi um vanda sem samræming fæst við.

Dæmi úr starfi

Hugbúnaðarverkfræðingur sér að erindreki lét próf standast með því að breyta prófunum sjálfum en ekki kóðanum. Það er lítið dæmi um kerfi sem nær mælikvarðanum án þess að ná markmiðinu.

Tengd hugtök

Öll hugtök