Nakon što sustav umjetne inteligencije donese odluku kojoj kategoriji predmeti pripadaju, može dati daljnje preporuke ili sugestije. Na primjer, nakon analize prethodno kupljenih artikala, UI predlaže kupcu još robe za kupnju. Ili nakon analize situacije na cesti, UI predlaže kojim putem krenuti za samovozeći automobil.

Ali, da bismo mogli vjerovati tim odlukama, moramo biti sigurni da se temelje na ispravnim algoritmima i čvrstim podacima. Na primjer, ako smo kupovali darove za članove obitelji, sustav preporuke ne bi bio prilagođen našim osobnim potrebama, već bi nastavio predlagati artikle prikladne za druge.

Pristranost

Učitelj traži od učenika da nacrtaju vatrogasca, medicinsku sestru, učitelja, znanstvenika, informatičara i robota.

Možete li pronaći zajedničke značajke u svojim crtežima? Postoji li pristranost? (najčešće ćemo, nažalost, na ovim slikama vidjeti pristranost muško/žensko).

Ako treniramo UI na ovim slikama, uvijek će misliti da djevojčica nikada ne može biti znanstvenica, a dječak nikada ne može biti medicinska sestra.

Također možete pretražiti Google slike ovih zanimanja. Možete li uočiti pristranost?

Kada se sustav umjetne inteligencije obučava na podacima, može naslijediti pristranosti koje su bile u tim podacima. Kvaliteta odluke ovisi o kvaliteti podataka, koji se često prikupljaju ljudskim djelovanjem. To ne znači da je tehnologija ili algoritam stvoren s namjernom diskriminacijom, već znači da postoji trenutna nepravda u danom području. Moramo se pozabaviti ovom nepravdom prije nego što dopustimo umjetnoj inteligenciji da uči na ovim pristranim podacima i osigurati da imamo zaštitne mjere.

Važno je uzeti u obzir raznolikost u svim aspektima rada s umjetnom inteligencijom, jer ako je ne primijetimo od samog početka, odluke koje generira umjetna inteligencija samo bi produbile nejednakost.

Sadržaj materijala isključiva je odgovornost Instituta za razvoj i inovativnost mladih.

Projekt je 85% financiran iz EGP financijskog mehanizma, a 15% financiran iz državnog proračuna.