IA, ética e privacidade. Quem assina embaixo?

Hora do “Papo Bon” sobre Inteligência Artificial (IA). Agradeço e vamos fazer valer seu tempo por aqui. 

Quando o assunto é IA, como toda novidade, há temas que suscitam discussões acaloradas. A relação entre IA, ética e privacidade é bem interessante.

O desafio do viés algorítmico 

Para que fique bem claro, a IA “aprende” com dados. Mas o que acontece quando estes dados carregam preconceitos, o chamado viés algorítmico? 

Dois exemplos fáceis de entender. Um sistema que utiliza IA para triagem de currículos pode ser tendencioso e discriminador com base na cor da pele, idade, se o candidato é homem ou mulher, entre outras informações inseridas pelos desenvolvedores (note aí a participação humana).  

Outra área onde o sistema pode exercer este tipo de ação é na concessão de empréstimos. Vamos supor que um banco use um algoritmo de IA para decidir quem tem mais chances de receber o dinheiro. O algoritmo é treinado com dados históricos que incluem diversas informações como renda, tempo que está no emprego, se é casado(a) ou não, se tem filhos(as), pontuação de crédito, e assim vai. No entanto, se os dados inseridos no sistema refletirem práticas discriminatórias, podem ser excludentes na liberação do empréstimo. Por exemplo, se a pessoa é de certo bairro onde há predominância de determinada etnia.

Em busca de soluções 

Este dilema deve ser enfrentado em várias frentes. Desenvolver e implementar padrões éticos claros na inserção dos dados, e que sejam transparentes e explicáveis. Diversificar equipes de desenvolvimento e estabelecer regulamentações sobre o uso de dados são passos fundamentais para assegurar que a IA sirva a todos de maneira justa.  

Além disso, um maior cuidado com a coleta e uso de dados pode proteger a privacidade das pessoas, assegurando que elas tenham controle sobre suas informações pessoais. Isto já é para estar acontecendo com a implantação da LGPD (Lei Geral de Proteção de Dados).

Geração de textos com auxílio de IA

Esta é outra seara que gera muita discussão. Como definir quem é o verdadeiro autor se a IA foi utilizada para escrever o texto? A máquina que ajudou a escrever ou o humano que pediu para gerá-lo utilizando um prompt escrito por ele, corrigiu, tirou discrepâncias e informações errôneas que podem ter sido geradas, deu o toque final e publicou? 

Sempre pondero aqui que a IA existe, mas quem inventou foi o ser humano. O que ela faz é facilitar muito a vida dos profissionais da imprensa que precisam consultar dados históricos, verificar se as palavras estão escritas corretamente, corrigir concordâncias e tempos verbais, entre outras ações para oferecerem uma notícia, artigo ou texto de acordo com as regras da língua portuguesa. 

Tem quem leve para o lado filosófico, mas há a prática também, envolvendo direitos autorais, originalidade e criatividade. Alguns veem a IA como uma ferramenta que amplia as capacidades humanas. Eu integro este time.  
Outros temem que a dependência da IA possa ser prejudicial à essência da autoria humana. E, sinto informar que esta revolução está apenas começando. 

Em pouquíssimo tempo creio que estas discussões estarão obsoletas, já que a IA veio para diminuir os trabalhos repetitivos delegados às pessoas, melhorar a qualidade dos serviços, minimizar o tempo de execução de muitas tarefas e potencializar a criatividade. É só saber usar.

Privacidade em jogo 

A privacidade é outra questão que gera bastante conversa, mesmo antes do aparecimento da IA generativa. Com a capacidade de analisar grandes volumes de dados pessoais, os sistemas que utilizam IA podem revelar, intencionalmente ou não, informações sensíveis sobre os indivíduos, e, em muitas vezes, sem o seu consentimento explícito. A linha entre o uso benéfico da IA para personalizar experiências e a invasão na vida privada das pessoas tornou-se cada vez mais tênue, e teremos muito debate sobre isso. Este é um assunto que merece mais atenção e espaço. 

Semana que vem tem mais. 

Loading... 

Fábio Bonassa, radialista e jornalista (MTb 81674/SP), escreve sobre IA (Inteligência Artificial). 

Papo Bon, com ene, é uma corruptela com o nome Bonassa.