Os limites da inteligência artificial 

Apesar do potencial para gerar benefícios sociais e econômicos consideráveis, riscos dessa tecnologia preocupam especialistas



Imagem: freepik

Da assistente virtual siri aos carros autônomos, a inteligência artificial (IA) está a cada dia mais fazendo parte do cotidianoEm geral a ficção se limita a associar essa tecnologia a robôs com características próximas às humanas, mas na vida real sua aplicação é vasta, abrangendo uma série de sistemas de softwares: desde algoritmos de pesquisa do Google até a plataforma de serviços cognitivos Watson, da IBM. Porém, quanto mais essa tecnologia evolui e revela sua capacidade de gerar benefícios para a sociedade e valor para os negócios, mais ela implica consequências indesejáveis — ​​e, às vezes, graves. 

“Houve uma corrida para digitalização dos negócios em 2020 e a inteligência artificial foi arrastada por essa onda, diz Ricardo Santana, sócio-líder de Data & Analytics, Automation and Artificial Intelligence da KPMG Lighthouse. “Alguns setores, como o automobilístico, já utilizam a IA e estão mais preparados, mas outros setores e companhias tradicionais ainda não, observa. 

Inteligência artificial hoje 

A IA já impacta positivamente a vida cotidiana de muitas maneiras, ajudando a resolver um sem-número de problemas urgentes. 

A pandemia criou muitos exemplos dessa dinâmica. O Facebookpara citar um caso, fez parceria com universidades americanas para desenvolver uma série de softwares para monitoramento da disseminação do novo coronavírus e de algumas circunstâncias relacionadas à saúdeUm dos sistemas utiliza machine learning para calcular a probabilidade de piora dos sintomas de covid-19, o que pode auxiliar médicos a decidir quais pacientes podem receber alta hospitalar e também a planejar a demanda por cilindros de oxigênio — algo que o atual caos no estado do Amazonas prova ser mais do que necessário. 

O valor da inteligência artificial para as companhias também se tornou inegável. A tecnologia impulsionou a eficiência ao contribuir para decisões baseadas em dados. Segundo levantamento anual do McKinsey Global Institute, empresas de diversos setores atribuem 20% ou mais dos seus lucros a sistemas de IA. Essas empresas pretendem investir ainda mais na tecnologia em resposta à crise desencadeada pela covid-19 e à aceleração da digitalização.  

“Acreditamos que a IA vale o investimento, mas para que gere valor de forma relevante ela requer uma execução eficiente, sobretudo em escala empresarial”, comenta Michael Chuisócio da McKinsey, no estudo. Se a IA conquistar novos espaços nas companhias, o impacto econômico no futuro pode ser expressivo. A expectativa é de que em 2030 essa tecnologia propicie um adicional de 13 trilhões de dólares na economia global. 

Mas, por enquanto, a IA engatinha — não por acaso, já recebeu a alcunha de narrow AI” (IA limitada, em tradução literal). Isso porque os cientistas de dados só conseguem projetar sistemas capazes de realizar tarefas restritas — um programa pode, por exemplo, fazer apenas reconhecimento facial ou exclusivamente dirigir um carro. Essa tecnologia, portanto, pode até ser superior ao desempenho humano em um certo domínio, mas não consegue se adaptar a desafios novos ou mais amplos sem uma remodelagem significativa, como as pessoas são capazes de fazer. 

“Existe muito hype em torno da inteligência artificial. Muitas empresas que dizem utilizar sistemas de IA não os adotam de fato. A que elas usam são modelos estatísticos avançados, algo completamente diferente”, diz Dora Kaufman, pesquisadora e professora do Instituto de Tecnologias da Inteligência e Design Digital (TIDD/PUC-SP). 

Pesquisa da KPMG corrobora a visão da pesquisadora: apenas 30% das companhias de fato utilizam IA para tomar decisões. Na opinião de Kaufman, a inteligência artificial não deveria ser vista como algo complicado. “Há uma atmosfera mística ao redor da tecnologia, mas a realidade é que o conceito é simples: trata-se de algoritmos capazes de compreender dados e tomar decisões”, explica. 

O objetivo de longo prazo é criar o que os cientistas de dados chamam de general AI (AGI, da sigla em inglês), capaz de superar o cérebro humano em quase todas as tarefas cognitivas. 

Riscos da IA para o mercado financeiro 

Os perigos inerentes ao uso de sistemas de inteligência artificial são extensos e, em alguns casos, esbarram em questões éticas complexas. Desenvolvimento de armas automáticas e substituição de uma parcela da força de trabalho por máquinas são algumas delas. 

No mercado financeiro, é possível separar os riscos em quatro categorias. A mais conhecida e divulgada é a segurança da IA, já que ela necessita de uma quantidade massiva de dados e não são raros os ataques cibernéticos em que há vazamento ou comprometimento de informações privadas e sensíveis. Um caso recente ruidoso foi a invasão hacker do sistema da SolarWinds, software de gerenciamento de redes que abriga dados da Casa Branca, do Pentágono e de empresas listadas no Fortune 500. 

As outras categorias são confiabilidade e qualidade dos dados, vinculada a possíveis limitações do software; questões de compliance, que surgem à medida que a IA impacta políticas internas; e evolução dinâmica dos sistemas de IA, que podem começar a agir de forma tendenciosa e indesejada. 

“Há diversos exemplos de situações em que a inteligência artificial incorporou preconceitos disseminados na sociedade. Profissionais responsáveis por contratar funcionários nos Estados Unidos, por exemplo, estão mais atentos ao comportamento dos sistemas de IA utilizados em processos de seleção, uma vez que eles tendem a considerar raça, gênero e formação dos candidatos — sobram apenas homens brancos de universidades de elite”, afirma Thoran Rodrigues, fundador e CEO da Big Data Corp. 

Kaufman reforça a necessidade de sistemas de IA serem usados com cautela. “Eles ajudam no processo de decisão, sem dúvida. Mas não dá para perder de vista que a IA é apenas um modelo criado pelo homem, passível de distorções. Quem deve decidir de fato é a pessoa, não a máquina”, ressalta. 

Apesar de os riscos da IA estarem mais evidentes para o mercado, especialistas afirma que ainda se está longe de atingir o nível de consciência ideal. Em artigo, Benjamin Cheatham, Kia Javanmardian e Hamid Samandari, três sócios sênior da McKinsey, defendem que grande parte das companhias não presta a devida atenção às tecnologias adotadas. “Como a IA é uma força relativamente nova nos negócios, poucos líderes tiveram a oportunidade de aprimorar a visão sobre riscos sociais, organizacionais e individuais ou de desenvolver um conhecimento prático de seus drivers, que vão desde dados inseridos em sistemas de IA até a operação de modelos algorítmicos e as interações entre humanos e máquinas”, afirmam. Como resultado, a capacidade de mitigação de riscos da companhia é superestimada e fragilidades da IA são ignoradas. 

 

Leia também

CVM diante dos fundos de criptomoedas 

Será a vez dos unicórnios?

Smart cities são desafio para os novos prefeitos brasileiros


Quer continuar lendo?

Faça um cadastro rápido e tenha acesso gratuito a três reportagens mensalmente.
Você está lendo {{count_online}} de {{limit_online}} matérias gratuitas por mês

Você atingiu o seu limite de {{limit_online}} matérias por mês. X

Ja é assinante? Entre aqui >

ou

Aproveite e tenha acesso ilimitado ao melhor conteúdo sobre mercado de capitais!

Acessar loja >




Participe da Capital Aberto:  Assine Anuncie


Tags:  inteligência artificial machine learning Encontrou algum erro? Envie um e-mail



Matéria anterior
Economia circular: você ainda vai investir nessa ideia 
Próxima matéria
O Brasil deve implementar o voto plural?



Comentários

Escreva o seu comentário sobre este texto!

O seu endereço de e-mail não será publicado.



Recomendado para você





APROVEITE!

Adquira a Assinatura Superior por apenas R$ 0,90 no primeiro mês e tenha acesso ilimitado aos conteúdos no portal e no App.

Use o cupom 90centavos no carrinho.

A partir do 2º mês a parcela será de R$ 48,00.
Você pode cancelar a sua assinatura a qualquer momento.

Leia também
Economia circular: você ainda vai investir nessa ideia 
Que os novos tempos pedem novas abordagens das empresas em relação aos seus impactos no ambiente é ponto hoje praticamente...