A importância da ética na Inteligência Artificial

Publicado em
7/5/2024
Inscreva-se em nossa Newsletter
Autores

A notícia recente sobre a utilização de funcionários remotos na Índia pela Amazon para garantir o funcionamento do sistema "Just Walk Out" (ou “apenas saia”, na tradução ivre) trouxe à tona questões cruciais sobre ética na Inteligência Artificial.  

Na teoria, a tecnologia de visão computacional prometia, segundo a empresa, automatizar todo o processo de compra, sem nenhuma interação humana. Bastava entrar na loja, adicionar os produtos no carrinho e sair. A cobrança seria feita automaticamente. No entanto, depois da polêmica, a empresa disse haver uma supervisão humana “apenas para validação”. Mas é fato que nunca saberemos ao certo.

Esse é apenas um caso de muitos que podemos ter questionamentos com relação ao uso da IA. Até por essa razão, muitos governos estão trabalhando para regular o uso dessa tecnologia e definir conceitos como explicabilidade, ética e viés, com o objetivo de promover uma IA mais justa e - por que não? - “livre de polêmicas”.  

Vitrine da Amazon Just Walk Out com produtos
Vitrine da Amazon Just Walk Out (Reprodução)

O caminho para uma IA mais ética e transparente

Esse relato sobre a Amazon acabou me incomodando profundamente. É que, como outras tecnologias que desenvolvemos aqui no Venturus, já houve questionamentos de clientes sobre a possibilidade de uma solução semelhante, que automatizaria todo o processo do negócio. Mas como saber o quão precisa ou efetiva era a solução da Amazon?

Como profissional da área de tecnologia, participei de diversos avanços inovadores ao longo dos anos e testemunhei a ascensão da IA – algo que está aos olhos de todos agora. Esse caso levanta preocupações sobre a transparência e a responsabilidade no desenvolvimento e uso dessa tecnologia.

É daí que surge a ideia da explicabilidade como uma necessidade legal iminente, exigindo transparência e prestação de contas nos algoritmos de IA. Mas o que significa isso?  

Segundo os professores Cristiano Colombo e Wilson Engelmann a explicabilidade pode ser entendida como a garantia de que serão desenvolvidos mecanismos para assegurar a transparência dos algoritmos que compõem os sistemas de IA. Para eles, esse requisito será tanto uma tendência quanto LLM, IA Generativa e outros termos que estamos nos acostumando a ouvir.

Quando a ética entra na tecnologia

Em um conceito mais amplo, a ética na inteligência artificial refere-se ao desenvolvimento e aplicação de sistemas de IA de uma forma que seja moralmente correta e que respeite valores éticos fundamentais.  

Isso inclui garantir que a IA não perpetue preconceitos ou discriminações (os chamados “viés”), seja transparente em suas operações e decisões (explicabilidade), e que suas implicações e usos sejam considerados em termos de impacto social e moral.

Além disso, a IA Ética também envolve questões sobre privacidade de dados, consentimento para uso de informações pessoais e responsabilidade pelas ações e decisões tomadas por sistemas de IA.

O viés na inteligência artificial

Pôster do documentário Coded Bias, com uma máscara cobrindo um rosto
Pôster do documentário Coded Bias, que discute o víes da IA (Reprodução)

O viés foi um dos primeiros pontos polêmicos levantados pelos algoritmos de IA. Esse tema começou a ganhar destaque na última década, especialmente quando a IA se tornou mais integrada na vida cotidiana e em processos decisórios importantes.

O reconhecimento de que algoritmos podem perpetuar ou até amplificar preconceitos sociais e raciais existentes emergiu com casos notáveis e estudos acadêmicos, levando a uma crescente conscientização sobre a importância da ética e da justiça na IA.  

As preocupações se concentram em como os dados usados para treinar esses algoritmos podem conter preconceitos históricos ou culturais, influenciando assim o comportamento e as decisões da IA.  

A Pesquisadora Joy Buolamwini foi uma das pioneiras nesse campo, e por si só, é um assunto que cabe vários artigos. Mas já existe um excelente documentário chamado “Coded Bias” que conta muito bem essa história!

A Estratégia Brasileira de Inteligência Artificial (EBIA)

A Estratégia Brasileira de Inteligência Artificial, do qual o Venturus faz parte, trouxe muito desse debate, conforme Relatório Final do Eixo 6, de Pesquisa, Desenvolvimento e Inovação.

No documento, a EBIA propõe cerca de 11 ações para definir uma IA ética, segura e regulada. Dentre elas, o uso de Living Labs Regulatórios, nos quais poderá testar na realidade das organizações, os modelos de autorregulação regulada estruturados a partir de princípios.

Outro ponto importante é termos mais intercâmbios tecnológicos para que possamos ter no Brasil a adoção de princípios que hoje estão sendo estabelecidos na Europa, China e EUA por exemplo. Mais do que tudo, fica uma reflexão levantada nos grupos de trabalho a respeito da Regulação de IA: o uso da IA tem que ser ético!

Posts relacionados

Outros artigos sobre o mesmo tema que talvez você goste.

Ver todos os posts
Os principais usos da inteligência artificial na saúde
Inteligência Artificial

Os principais usos da inteligência artificial na saúde

Conheça os principais usos da inteligência artificial na saúde e como essa tecnologia já está auxiliando o setor!
Ler mais
Podcast: Inteligência artificial na saúde
Inteligência Artificial

Podcast: Inteligência artificial na saúde

A inteligência artificial também está presente na saúde. Ouça o Futurus e entenda como essa tecnologia já está ajudando esse setor!
Ler mais
Ver todos os posts

Entre em contato e um dos
nossos especialistas
irá atendê-lo:

Por favor, insira um email corporativo
Como prefere ser contatado?*

O Venturus precisa que nos forneça as suas informações de contato para falarmos melhor sobre nossos produtos e serviços. Ao informar seus dados, você estará ciente das diretrizes da nossa Política de Privacidade.

Obrigado! Sua mensagem foi recebida!
Ops! Algo deu errado com o envio da sua mensagem.
Venturus - Campinas / SP - Brasil
Estrada Giuseppina Vianelli di Napolli, nº 1.185
Condomínio GlobalTech Campinas
Polo II de Alta Tecnologia
CEP 13086-530
Venturus - Atlanta / GA - EUA
1201 Peachtree Street NE,
Floors 1, 2 and 3,
Atlanta, Georgia
ZIP Code 30361
Itriad - Manaus / AM - Brasil
Rua Salvador, nº 440
Adrianopólis
CEP 69057-040