Можно долго говорить о биасах в мире нейросетей, но я сконцентрировалась на конкретном эксперименте, в котором с помощью нейросетей исследовались фотографии преступников и не-преступников, и который «подтвердил» теорию, что внешние признаки человека могут служить предрасположенностью к совершению преступлений.
Грезы о «справедливом и объективном судье», разбились о реальность. Нейросети оказались «сексистами», «шовинистами» и «расистами». Объединить все обвинения можно одним словом — «биас».
Таким образом потерпела крах налоговая система в Роттердаме, в которой нейросеть рассчитывала склонность человека к налоговому мошенничеству, основываясь на его поле, расе и возрасте.
Но стоит заметить, что предвзятость принадлежит не нейросетям, а тем, кто их обучает. Это мы, на основе нашего поведения, обучаем эти модели. Мы делаем виновными нейросети в тех вещах, которым их сами обучали.
Верная своему делу судья-нейросеть, исполняя свою работу, по итогу оказывается неугодна публике, которая и дала ей обязанности, которые она послушно выполняла.
Возможно, дело не в судье, а в системе, которая дает приказы, как поступать.
