Predavanje

Pristranskost v umetni inteligenci in njen vpliv na človekove pravice

  • petek, 19. 4. 2024
  • 10:20–10:50

O terminu

Pristranskost v umetni inteligenci (UI) se nanaša na situacije, ko UI sistemi določene skupine posameznikov obravnavajo nepravično ali diskriminatorno. UI rešitev je pristranska, če vrača izkrivljene rezultate, predvsem v primerih, ki podpirajo predsodke do posameznikov ali skupin. Taka UI rešitev tako ni v skladu s pozitivnimi človeškimi vrednotami. Pristranskost se lahko kaže na različne načine, do nje pa lahko pride na različnih stopnjah razvoja UI rešitve: med zbiranjem in predobdelavo podatkov, pri izbiri vhodnih parametrov za model, med gradnjo modela, pa tudi med vrednotenjem modela in končnim uvajanjem UI rešitve v prakso. Težava pa je tudi v tem, da se lahko manjša začetna pristranskost med procesom strojnega učenja poveča, kar na koncu zastrupi celoten sistem in privede do resne pristranskosti celotne UI rešitve. Na predavanju bomo predstavili nekaj konkretnih primerov pristranskosti v UI ter njihove posledice na človekove pravice v praksi. Predstavili bomo tudi nabor orodij za odkrivanje in obvladovanje pristranskosti v UI, ki jih na IJS razvijamo v okviru mednarodnega evropskega raziskovalnega projekta AI4Gov.