Início Tecnologia Provas matemáticas para análise de viés de IA justa

Provas matemáticas para análise de viés de IA justa

15
0

Resumo e 1 Introdução

2 trabalhos relacionados

3 preliminares

3.1 Aprendizagem supervisionada justa e 3.2 critérios de justiça

3.3 Medidas de dependência para aprendizado justo

4 vieses indutivos de aprendizado supervisionado justo baseado em DP

4.1 Estendendo os resultados teóricos à regra de previsão randomizada

5 Uma abordagem de otimização robusta distribuída para a aprendizagem justa baseada em DP

6 resultados numéricos

6.1 Configuração experimental

6.2 vieses indutivos de modelos treinados em aprendizado justo baseado em DP

6.3 Classificação justa baseada em dP em aprendizado federado heterogêneo

7 Conclusão e referências

Apêndice A provas

Apêndice B Resultados adicionais para conjunto de dados de imagem

Apêndice A provas

A.1 Prova do Teorema 1

Portanto, para a função objetiva na Equação (1), podemos escrever o seguinte:

Sabendo que a TV é uma distância métrica que satisfaz a desigualdade do triângulo, as equações acima mostram que

Portanto,

A.2 Prova do Teorema 2

A.3 Prova do Teorema 3

Portanto, podemos seguir a prova de teoremas 1,2, que mostra a desigualdade acima leva aos limites reivindicados nos teoremas.

Apêndice B Resultados adicionais para conjunto de dados de imagem

Esta parte mostra os vieses indutivos do classificador justo baseado em DP para o conjunto de dados do Celeba, bem como as parcelas visualizadas. Para as linhas de base, dois classificadores justos são implementados para classificação justa de imagem: KDE proposto por [11] e MI proposto por [6]com base no Resnet-18 [28].

Figura 5: Os resultados das experiências da Figura 2 para um modelo baseado em resnet no conjunto de dados de imagem.Figura 5: Os resultados das experiências da Figura 2 para um modelo baseado em resnet no conjunto de dados de imagem.

Figura 6: Amostras de cabelo loiro (maioria, superior) e não-loiro amostras de cabelo (minoria, inferior) no conjunto de dados Celeba previsto por ERM (NN) e MI, respectivamente. Os resultados mostram que o modelo possui 57,3% e 98,8% de taxas negativas, ou seja, prefere prever todas as amostras sendo mulheres minoritárias, mantendo quase o mesmo nível de precisão em todo o grupo.Figura 6: Amostras de cabelo loiro (maioria, superior) e não-loiro amostras de cabelo (minoria, inferior) no conjunto de dados Celeba previsto por ERM (NN) e MI, respectivamente. Os resultados mostram que o modelo possui 57,3% e 98,8% de taxas negativas, ou seja, prefere prever todas as amostras sendo mulheres minoritárias, mantendo quase o mesmo nível de precisão em todo o grupo.


Autores:

(1) Haoyu Lei, Departamento de Ciência e Engenharia da Computação, Universidade Chinesa de Hong Kong ([email protected]);

(2) Amin Gohari, Departamento de Engenharia de Informações, Universidade Chinesa de Hong Kong ([email protected]);

(3) Farzan Farnia, Departamento de Ciência e Engenharia da Computação, Universidade Chinesa de Hong Kong ([email protected]).

fonte

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui