Umelá inteligencia a riziká automatickej zaujatosti (diskriminácie) pri spracovaní dát

1.124 Umelá inteligencia a riziká automatickej zaujatosti (diskriminácie) pri spracovaní dát

JUDr. Jakub Pavčík

Umelá inteligencia má potenciál transformovať množstvo priemyselných odvetví, avšak s týmto potenciálom prichádzajú aj významné výzvy. Jednou z najnáročnejších je problém automatickej zaujatosti, respektíve diskriminácie, ktorá môže byť zakódovaná v systémoch umelej inteligencie. Táto zaujatosť môže mať hlboké dôsledky, od zosilňovania existujúcich sociálnych a rasových predsudkov po nechcené diskriminačné praktiky. Tieto skutočnosti majú dopad na spracovanie osobných údajov dotknutých osôb v zmysle všeobecného nariadenia o ochrane údajov.

Zaujatosť v systémoch umelej inteligencie často pramení z dát, na ktorých sú tieto systémy trénované. Ak sú tréningové dáta nekompletné, zaujaté alebo nereprezentatívne, výsledný model pravdepodobne…