ALGORITMO ÉTICO

Resumo

Esse trabalho estuda a relação entre privacidade de indivíduos em conjuntos de dados e a equidade em algoritmos, ou seja, assegurar que indivíduos semelhantes sejam tratados de forma não discriminatória. Pelos fundamentos de privacidade o acesso à um conjunto de dados não deve implicar aprender algo que não era possível sobre um indivíduo. Em particular, temos o modelo de differential privacy, onde a probabilidade da resposta de uma consulta não depende da presença de um usuário no conjunto de dados. Ele adiciona um ruído aleatório para esconder os indivíduos de forma que não perca a utilidade do dado. Algoritmos de aprendizagem, em geral, procuram padrões escondidos, possivelmente, discriminatórios e os usam de maneira que maximize a acurácia. Por exemplo, o uso de conjuntos de dados históricos para quaisquer fins perpetua a discriminação da época. Vamos mostrar como essas propriedades podem ser garantidas na regressão logística. Inicialmente, considerando apenas equidade, na primeira configuração focado em atender requisitos legais e na segunda, atender requisitos mais gerais. E depois, simultaneamente, atender privacidade e equidade. Portanto, o problema se resume à otimização, modelada de forma adequada para garantir, o quão possível for, privacidade, equidade e acurácia. Para, dessa forma, proteger os indivíduos e seus direitos e, assim, garantir o bem estar geral da sociedade.