Inteligência Artificial e Dilemas Éticos

Fala pessoal, tudo bem?

De uns tempos pra cá, parece que a grande "bola da vez" no mundo da tecnologia, é a Inteligência Artificial ou apenas I.A.

Claro que como um grande fã e amante de tecnologia, eu acho esse assunto incrível, além é claro das possibilidades de uso.

Mesmo se tratando apenas de tecnologia, existe um assunto que não pode ser ignorado ou sequer ser deixado de lado num primeiro momento.  Estou falando da Ética!
Pode não parecer num primeiro momento, mas I.A (é assim que irei tratar o termo Inteligência Artificial),  está relacionado diretamente com questões éticas, mais do que se imagina.

Na minha opinião, assim como tudo na vida, tem bônus e ônus e mediante a isso, decidirmos pelo que vale a pena. A I.A. também envolve esse dilema.

Vamos para um exemplo do lado bom da I.A.:

Avanço mais rápido e até revolucionário de áreas como saúde, educação, direito, segurança e transporte.

Interessante, não?!

Agora temos dilemas éticos que podem vir junto com a I.A.:

Privacidade, transparência,  responsabilidadess, questões legais e sociais, mercado de trabalho (relação direta com desemprego), fins militares... E por aí vai.

Mas o que é "ética"?

De acordo com o dicionário Aurélio (sim, pode me chamar de velho rs, pra mim eu estou virando um clássico rs):

É o estudo dos juízos de apreciação que se referem à conduta humana susceptível de qualificação do ponto de vista do bem e do mal, seja relativamente à determinada sociedade, seja de modo absoluto.

Simplificando ...

Algo moral, íntegro, digno, honesto, honrado, correto, certo, decente.

Mas então, o que vem a ser ética na I.A.?

- São discussões sobre os valores que precisam e devem orientar a criação,   uso e controle desse tipo de tecnologia.

Temos que lembrar e reforçar que por trás da I.A., temos humanos envolvidos,  sejam os programadores ou mesmo os idealizadores/patrocinadores, financiadores disso.

Simplificando de novo:

Pode haver um conflito de interesse, segndas intenções, fazendo assom o uso indevido por trás da I.A.

Vamos destrinchar isso um pouco mais, para ficar mais claro.

• Algoritmo

Para aqueles que não estão familiarizados com o que são algoritmos, aqui vai uma explicação:

Em matemática e ciência da computação, um algoritmo é uma sequência finita de ações executáveis que visam obter uma solução para um determinado tipo de problema. Segundo Dasgupta, Papadimitriou e Vazirani; "Algoritmos são procedimentos precisos, não ambíguos, padronizados, eficientes e corretos."

Fonte: https://pt.wikipedia.org/wiki/Algoritmo

Mediante a base de dados utilizada no treinamento, podemos reproduzir preconceitos e discriminações  existentes na sociedade atual.

Com este tipo de viés, decisões injustas e com desigualdade podem ser tomadas.

Isso ocorendo com a I.A. que está sendo utilizada na justiça ou recrutamento, quando falmos de seleção de pessoas para os mais diversos fins, já pensou?

É preciso que técnicas, diretrizes, controles e normas sejam desenvolvidas e aplicadas para evitar isso.

Exemplo: Sistemas de reconhecimento facial. Dependendo do modelo utilizado, ele pode "excluir" determinados reconhecimentos de pessoas por não estar dentro do "padrão" que ele conhece.

• Privacidade

Podemos usar I.A. quando à necessidade de coleta e processamento de dados, seja numa forma branda ou até mesmo de forma massiva.

Mas e se esses dados, forem dados pessoais?  Dados sensíveis? 
Como fica a privacidade?
E se esses dados forem utilizados  para vigilância?

Isso não pode ser caracterizado como um ambiente de controle? Perseguição?

A vigilância excessiva causa isso.

Parece até o modelo de regimes autoritários.

Precisam ser estabelecidas regras muito claras quanto ao uso de dados pessoais e a vigilância por parte da I.A.

Exemplo: Semelhante ao primeiro exemplo, sistemas de vigilância com reconhecimento facial utilizados em locais normalmente públicos, mas não limitados apenas a estes.

• Autonomia e responsabilidades

Existem sistemas de I.A. que são utilizados para tomadas de decisão.
Eles trabalham de forma autônoma,  ou seja, não possuem intervenção humana.
À partir deste momento, ele passa a ter responsabilidade  por essas decisões?

Hoje, um dos sistemas autônomos  talvez mais comum e que a maioria de nós conhecemos, são os carros autônomos.
Agora, imagine que esse carro autônomo causou um acidente  (não vamos neste momento entrar no mérito de qual acidade).

Quem é o responsável?

Novamente, precisamos discutir e que sejam estabelecidas regras, critérios e até leis para atribuição de responsabilidades.

• Discriminação/Exclusão social

Assim como comentado na ética envolvendo "algoritmos", precisamos garantir e trabalhar para que a I.A. sempre seja justa e imparcial.

A I.A. precisa ser inclusiva e sem discriminação.

• Mercado de trabalho

Como qualquer nova tecnologia, a I.A. também causa uma grande preocupação no mercado de trabalho. Essa preocupação relacionada mais diretamente a demissões e extinsão de alguns cargos.

Afinal, a I.A. pode substituir humanos em suas funções?
Na minha visão e opinião,  pode sim. Sem sombra de dúvidas!

O trabalho que deve ser feito em cima disso, está relacionado nas formas que essa transição deve ocorrer.

Os trabalhadores precisam começar serem desenvolvidos para as novas habilidades necessárias, para que estes ocupem os novos cargos e possam executar em sua totalidade as novas funções e responsabilidades.

Todo mundo tende a ganhar com essa transição justa, de forma assistida e acma de tudo ... Mais humanizada.

• Uso em questões militares

Não deveria  ser novidade para ninguém  os medos e o poder devastador e bombas atômicas e guerras nucleares, certo?

Imagine agora toda essa potência devastadora se unindo aos poderes da I.A.?

Tenso, não é?

Drones autônomos podem tanto atingir um alvo com extrema precisão, quanto tomar decisões sem instruções humanas.

Nesse contexto de uso militar, é um pouco mais complicado. Afinal cada país tem suas leis, regras e ambições quanto a este assunto, guerras, armamento, espionagem, etc. Podemos não desenvolver I.A. para esse fim, mas nada impede que outros países o façam.

Agora foi apenas uma abordagem macro das questões mais importantes que envolvem o encontro desses dois temas: Ética e I.A.

O tema I.A. por sí só, é muito extenso e complexo. Somando agora as questões éticas, isso aumenta de forma exponencial, envolve preocupações legítimas e importantes para o bem-estar da sociedade e até sobrevivência de nações.

Ainda existe muita água para rolar quanto à tudo isso, mas vamos acompanhar!

Pra você que chegou até aqui, um abraço e até a próxima.

:wq!