INOVAÇÃO

Inteligência artificial ética está longe de ser algo simples

Por Roberta Prescott* ... 13/03/2019 ... Convergência Digital

O uso ético de inteligência artificial e do aprendizado de máquina (machine learning), evitando um viés preconceituoso é um dos desafios que as companhias têm — e está longe de ser algo simples, sinalizou o chief analytics officer da Fico, Scott Zoldi, que está em São Paulo para o FICO Forum São Paulo, que acontece nesta quarta-feira 13/03. Em palestra, o evangelista dedicou boa parte do tempo para explicar sobre os perigos que a modulação dos dados pode levar a interpretações equivocadas.

"Com machine learning é difícil assegurar que a máquina não vai discriminar. Não podemos ser cegos com relação as características e ignorar raça no desenvolvimento de modelos de negócios. Há, sim, a possibilidade de se ter um viés preconceituoso. Na verdade, é preciso alinhar os modelos de subpopulação através do escalonamento de probabilidades de logs", observou.

Zoldi, que trabalha na FICO há 19 anos e é autor de 96 patentes, sendo 45 já asseguradas e 51 em processo, destacou o fato de machine learning figurar no pico do hypecycle do Gartner, mas explicou que as expectativas infladas podem apressar o uso de aprendizado de máquina sem o real entendimento de suas ramificações. "No momento, todos estão animados e isto é ótimo, mas implantar machine learning é difícil e requer precaução, já que há diversos problemas com interferência erradas", insistiu.

Os modelos de aprendizado de máquina, segundo Zoldi, precisam ser interpretáveis. "Remoção de viés é importante para uma inteligência artificial ética. Também é preciso entender que a cobertura de dados é crítica em todos os grupos. A capacidade de reforçar a palatabilidade, a monotonicidade e a engenharia podem ajudar a lidar com vieses preconceituosos. E novas redes neurais de recursos latentes interpretáveis expõem a relação de direcionamento da análise de dados", completou.

Confira a entrevista exclusiva com o chief analytics officer da Fico, Scott Zoldi.


TICs em Foco - TRANSFORMAÇÃO DIGITAL
Prever. Prevenir. Detectar e Responder

Essas são a exigência da remodelagem da gestão de riscos e da segurança organizacional nas corporações.

Arquitetura distribuída: uma tendência que vai chegar ao Brasil

Na China, conta Daniel Leung, chefe de Fintechs e Arquitetura na Forms Syntron, ao trocar a arquietura tradicional pela distribuída, um banco ficou apto a suportar até 100 milhões de contas correntes.

Adarsh Kumar, Capgemini: open banking é transformador, mas dados pertencem aos clientes

O open banking vai mudar o modelo de serviços bancários, afirma o CTO e líder de cibersegurança para a América Latina da Capgemini.

Thales Teixeira, da Harvard: disrupção digital vai muito além da tecnologia

"Unidades de negócios podem se tornar desnecessárias em empresas estabelecidas, e o CEO terá de tomar decisões relevantes", adverte o professor Thales Teixeira, da Harvard Business School.

Bradesco: Next não vai 'matar' o banco tradicional

O diretor-presidente do Bradesco, Octavio de Lazari Junior, garante que os dois modelos de negócio irão conviver, mas admite que as agências físicas vão mudar de perfil. Também revela que o Next mira um público mais jovem.

Brasileiro quer dar adeus às senhas com o uso maior da biometria

Sonho de consumo, revelado em estudo da IDEMIA, é de usar biometria para pagamentos online e para acessar ambientes dentro da própria casa. Brasil desponta em primeiro lugar no uso da biometria pela impressão digital, mas despenca posiçoes no uso do reconhecimento facial.



  • Copyright © 2005-2019 Convergência Digital
  • Todos os direitos reservados
  • É proibida a reprodução total ou
    parcial do conteúdo deste site
    sem a autorização dos editores
  • Publique!
  • Convergência Digital
  • Cobertura em vídeo do Convergência Digital
  • Carreira
  • Cloud Computing
  • Internet Móvel 3G 4G