Ela está muito mais presente do que percebemos: cada vez mais aplicativos se beneficiam da inteligência artificial (IA) e muitos deles possibilitam o progresso social, aumentam a possibilidade de sucesso das organizações e melhoram a qualidade de vida da sociedade.
Mas como em toda inovação, os benefícios e oportunidades são combinados a novos desafios aos quais devemos estar atentos se quisermos evitar dores de cabeça ou impactos negativos: vimos casos em que algoritmos de IA discriminaram pessoas negras em sistemas de reconhecimento facial ou excluíram mulheres em um processo de seleção de candidatos para uma vaga de emprego.
Isto é um risco enorme, especialmente levando em consideração que a IA intervém em atividades que vão desde a autorização para a concessão de um crédito até o diagnóstico absolutamente preciso de uma doença e seu consequente tratamento. Desde a detecção de fraude numa operação financeira até a identificação de um suspeito pelas forças de segurança.
Um reflexo dos dados de treinamento
Por que isso acontece? As razões são múltiplas. Uma das mais comuns é que há um viés no conjunto de dados usado para que a solução aprenda. Esses dados costumam ser um reflexo da sociedade: por exemplo, um sistema de pessoal poderia ter registros principalmente de homens, o que condicionaria as decisões futuras do sistema em termos de equidade de gênero. Também pode acontecer que em determinadas situações não previstas na fase de construção, a ferramenta funcione de maneira incorreta.
As soluções de IA e machine learning não surgem no vácuo, mas constituem um reflexo, tanto dos dados usados para criá-las, quanto do ponto de vista da equipe de engenheiros que se encarregará de seu desenvolvimento, o que faz com que a origem, as características e experiências de cada um deles seja relevante.
Há uma opinião geral de que os algoritmos de IA devem corrigir o viés próprio dos humanos nos dados utilizados no treinamento, o que, por sua vez, permitiria que eles fossem removidos da solução A realidade é muito mais complexa: os modelos de machine learning têm como virtude a capacidade de generalizar para tomar decisões com base em dados diferentes daqueles usados em seu treinamento. Isso torna difícil prever ou evitar comportamentos discriminatórios ou errados no futuro.
A responsabilidade do desenvolvedor de IA
Os criadores de soluções de IA e machine learning têm, portanto, uma responsabilidade enorme: a de garantir que os métodos de implementação e monitoramento consigam mitigar qualquer impacto negativo que possam ocasionar e que cumpram a premissa do FAT (sigla em inglês para fair, accountability and transparent, que sejam justas, responsáveis por seu funcionamento e transparentes). A experiência é acumulada e hoje temos metodologias, boas práticas e técnicas que podem ser aplicadas antes, durante e após a implementação da solução. Em muitas regiões, inclusive, já existem marcos regulatórios específicos sobre este assunto.
Fatores como diversidade e inclusão são dois motores que devem estar presentes desde o projeto da solução: é essencial que em todos os momentos do projeto sejam consideradas visões de pessoas com diferentes estilos de vida, origens e pontos de vista. Mas reunir diversas equipes de IA não é tarefa fácil. De acordo com um relatório do World Economic Forum de 2020, apenas 26% das profissionais de informação e IA são mulheres. É verdade que existem organizações como a AI4diversity para quebrar esses paradigmas e que empresas como a NTT DATA estão se esforçando cada vez mais para desenvolver processos de contratação e treinamento de profissionais com abordagem diversificada, mas ainda há um longo caminho a percorrer.
A IA tem o potencial de melhorar a qualidade de vida das pessoas de várias maneiras, algumas já conhecidas, outras esperando para serem reveladas num futuro imediato. A única maneira dessa premissa se tornar realidade é garantir o desenvolvimento de soluções sem preconceitos e que incluam os seres humanos em toda a sua diversidade.
