Para um entendimento mais profundo e mais confiança: Precisamos que a IA explique suas ações

staufen magazine 2024 | No. 7 | University of Alabama in Huntsville

Uma entrevista com Vineetha Menon, Professora Associada de Ciência da Computação do Terence Reed Endowed e Diretora do Laboratório de Análise de Big Data da Universidade do Alabama em Huntsville.

About

  • Mais de 10 anos de experiência em pesquisas multidisciplinares de ciência de dados, incluindo Gen AI, viés e transparência de LLM, aprendizagem profunda, descoberta de medicamentos com base em IA e IA explicável
  • Especialista em análise de big data, consultoria para clientes locais, de defesa e globais em equipes de IA humana, modelagem de desempenho humano, previsão de desempenho organizacional, adoção de IA e mitigação de riscos
  • Prêmios do IEEE: Jovem Profissional de Destaque, Jovem Profissional do Ano do IEEE Huntsville, Jovem Profissional de Destaque do IEEE Eta Kappa Nu (HKN)
Vineetha Menon

Como cientista líder na área de aprendizado de máquina com IA, como você percebe os desafios atuais que as organizações enfrentam para se adaptarem à era digital e quais estratégias você recomenda para superar esses desafios?

Um dos desafios que percebo para muitas empresas que estão se adaptando à era digital é como criar o tipo certo de tecnologias de aprendizado para saber como utilizar a IA no contexto certo para a produtividade e, o mais importante, como podemos usar a IA de maneira mais ética, segura, confiável e consistente.

Você poderia compartilhar alguns exemplos de implementações bem-sucedidas dos princípios de IA nas organizações?

Muitas empresas aproveitaram a IA para hierarquias de automação de várias camadas, desde a fabricação, a implantação, o treinamento de liderança, o desenvolvimento de produtos e o marketing. Uma estratégia que as organizações podem adotar é cultivar um ambiente de aprendizado de desenvolvimento contínuo de habilidades, em que os funcionários tenham amplas oportunidades de aprender, requalificar, aprimorar e aplicar suas habilidades em evolução juntamente com o avanço da tecnologia. Acredito que a supervisão na adoção da tecnologia de IA será: Como podemos evoluir consistentemente com a tecnologia e dar aos funcionários o tipo certo de recursos para crescer com ela, ajustar-se a ela, ter aprendizados mais interativos e usar a IA como um meio de preencher a lacuna entre a nova geração de funcionários e os funcionários com décadas de experiência para um ambiente de trabalho colaborativo.

À medida que a ‘IA explicável’ ganha força, como você vê a evolução de seu papel no aumento da transparência e da confiança nos sistemas de IA, especialmente nos setores em que os processos de tomada de decisão são altamente consequentes?

A IA explicável serve para desmascarar a caixa preta da tecnologia de IA, traduzindo suas operações em termos compreensíveis para os usuários finais. Ela fornece resultados claros e acionáveis, como “parar” ou “prosseguir”, tornando o processo de tomada de decisão mais compreensível e fácil de usar. Isso, de certa forma, preenche a lacuna entre Eu tenho essa tecnologia, sei o que ela faz, mas não tenho certeza se confio nela o suficiente para utilizá-la. É exatamente nesse ponto que a IA explicável será de fato incrivelmente útil. Por exemplo, a Tesla fornece insights transparentes sobre como os sistemas de IA do veículo tomam decisões, para garantir que os usuários entendam e confiem nas ações da tecnologia. Seria mais ou menos assim: A Tesla fala com o usuário (motorista): “Ei, estou vendo uma placa de pare. Antecipe a desaceleração ou as freadas bruscas”, então o usuário estaria mais bem equipado para tomar o tipo certo de ação e/ou aceitar a ação da IA, em vez de a IA fazer sua própria ação sem qualquer aviso – o que poderia causar desconfiança na tecnologia.

Dada a rápida progressão da IA, do aprendizado de máquina e dos modelos de linguagem de grande porte, quais são as principais habilidades e competências que você acredita que serão mais essenciais para a força de trabalho futura e como as organizações podem cultivar essas habilidades de forma eficaz entre seus funcionários?

A IA generativa e os grandes modelos de linguagem mudaram a forma como usamos a IA e, mais uma vez, a usamos em nossa vida diária para aumentar a produtividade. A parte importante será novamente focar mais no treinamento e na educação para que você não apenas tire proveito da IA, mas a utilize da maneira correta. Agora, mais do que nunca, há uma grande necessidade da combinação certa de habilidades. É preciso ter habilidades tecnológicas, habilidades de IA e habilidades interpessoais.

Para comunicar com eficácia o que a IA está dizendo e fazendo aos seus clientes, colegas e membros da equipe para maximizar o impacto, os funcionários precisam de uma combinação de proficiência técnica, experiência em IA e habilidades interpessoais. Os programas de treinamento e desenvolvimento de funcionários desempenham um papel fundamental para equipar a equipe com essas habilidades essenciais. Os funcionários adquirem as habilidades técnicas para que entendam o que o modelo está fazendo, por que está fazendo, como está fazendo, e possam explicá-lo aos usuários finais e causar o maior impacto possível. A promoção de uma cultura de educação e aprendizado será fundamental para o sucesso, juntamente com a adoção da transparência, da explicabilidade, da adoção responsável e da integração ética da IA. As organizações que implementarem políticas e estruturas para apoiar esses princípios promoverão mudanças significativas em suas funções e no cenário mais amplo.


OS PROGRAMAS DE TREINAMENTO E DESENVOLVIMENTO DE FUNCIONÁRIOS DESEMPENHAM UM PAPEL FUNDAMENTAL PARA EQUIPAR A EQUIPE COM ESSAS HABILIDADES ESSENCIAIS. OS FUNCIONÁRIOS ADQUIREM AS HABILIDADES TÉCNICAS, PARA QUE ENTENDAM O QUE O MODELO ESTÁ FAZENDO, POR QUE ESTÁ FAZENDO, COMO ESTÁ FAZENDO, E POSSAM EXPLICÁ-LO AOS USUÁRIOS FINAIS E CAUSAR O MAIOR IMPACTO POSSÍVEL.

DR. VINEETHA MENON
PROFESSOR ASSOCIADO DE CIÊNCIA DA COMPUTAÇÃO E DIRETOR DO LABORATÓRIO DE ANÁLISE DE BIG DATA UNIVERSIDADE DO ALABAMA EM HUNTSVILLE

Qual setor ou quais áreas de negócios serão mais afetadas pela IA? E de que forma?

Praticamente todos os setores que envolvem tecnologia, desde a fabricação, o marketing, a saúde, o atendimento ao cliente até as ferramentas de produtividade da vida cotidiana, sofrerão interrupções revolucionárias com a IA.

O objetivo da IA, a meu ver, está em sua utilidade como uma poderosa ferramenta de suporte à decisão assistida que pode nos ajudar a simplificar qualquer domínio tecnológico, como na fabricação por meio de gêmeos digitais, otimização de fluxos ágeis, marketing interativo e desenvolvimento colaborativo de produtos com os clientes usando a Gen AI, diagnóstico, previsão e análise de metas de KPIs (como chegar lá e por que confiar nas decisões da IA) usando IA transparente e aprimorar os recursos de mineração de dados e torná-los mais acessíveis a todos usando modelos de linguagem ampla (LLMs).

Como é uma abordagem ou estrutura bem-sucedida para cultivar as habilidades e a cultura necessárias em torno da IA para tornar a organização e os negócios mais bem-sucedidos?

Para qualquer organização, agora mais do que nunca, é importante investir em pessoas e estruturas para desenvolver habilidades e promover uma cultura de trabalho favorável à IA para obter sucesso sustentável na era da IA.

Em minha extensa pesquisa usando IA e aprendizado de máquina para modelagem e previsão de desempenho organizacional com base no modelo Baldrige e nos modelos Lean Six Sigma, mostramos que a “liderança” é um dos fatores cruciais que determinam o sucesso de qualquer organização. Portanto, ter uma liderança visionária sobre como a adoção da IA pode beneficiar a organização e promover ambientes de aprendizagem acessíveis para que todos os funcionários atualizem suas habilidades é essencial para o sucesso.

A inclusão de planejamento estratégico e estruturas de desenvolvimento para capacitar os funcionários com habilidades tecnológicas adicionais que possam alavancar seus conhecimentos de domínio, juntamente com a integração de modelos de operação ágeis para otimizar os processos internos, será benéfica. A IA também pode eliminar as barreiras de comunicação entre domínios e reunir diversas equipes para a solução de problemas, promover a inovação e a criatividade e abrir caminhos para a integração sustentável da IA. Por fim, aproveitar o poder da IA de geração para criar modelos convincentes de visão de negócios e de clientes para transmitir o que a organização pode oferecer será um divisor de águas.

Vamos considerar como cenário que a tecnologia de IA está disponível, assim como as habilidades e os recursos para usá-la da maneira correta. Quais questões sociais, éticas, políticas e jurídicas precisam ser respondidas para que a IA seja bem-sucedida de forma sustentável em uma ampla gama?

É fundamental que toda organização que deseja integrar a IA em seus processos considere essa questão primeiro. Falamos detalhadamente sobre os diferentes tipos de preocupações sociais e éticas e sobre o viés da IA em um de meus trabalhos recentes intitulado “AI Algorithmic Bias: Understanding its Causes, Ethical and Social Implications” (Viés algorítmico da IA: entendendo suas causas, implicações éticas e sociais), publicado na 35ª Conferência Internacional sobre Ferramentas com Inteligência Artificial (ICTAI) do IEEE de 2023. Para que a IA seja bem-sucedida de forma sustentável em escala global, várias questões sociais, éticas, políticas e jurídicas precisam ser abordadas. Aqui estão algumas considerações importantes:

  1. Inclusão de estruturas éticas de design de IA: Criar tecnologias de IA equitativas para lidar com as implicações sociais que surgem devido à adoção da IA: por exemplo, para softwares de recrutamento, precisamos de IA que possa incorporar a diversidade nos dados e no aprendizado para mitigar com sucesso qualquer decisão automatizada que discrimine implicitamente qualquer etnia, gênero, raça e deficiência.
  2. IA responsável e explicável para transparência e prestação de contas: Precisamos de políticas legais e organizacionais que responsabilizem a IA por sua tomada de decisão (tanto as decisões certas quanto as erradas) e estratégias de gestão de risco para lidar com os cenários em que a IA de fato tira conclusões incorretas. A inclusão de um design centrado no ser humano no circuito pode ajudar a mitigar e promover um ambiente de IA de aprendizado evolutivo.
  1. Privacidade, segurança e regulamentação de dados: Essa é uma das principais preocupações que assolam todos na era moderna do big data. Como podemos proteger os dados, garantir a privacidade e regulamentar os diferentes níveis de acesso aos dados? Quais são as políticas organizacionais individuais para navegar na adoção da IA a fim de garantir essas preocupações versus globalmente, o que a opinião de diferentes nações sobre como as transações de dados são vistas influenciará esse cenário. Essa é uma ótima conversa para evoluirmos coletivamente na era da revolução da IA.

BAIXE GRATUITAMENTE A STAUFEN MAGAZINE EM PDF

leia mais sobre este tema

MANTENHA-SE ATUALIZADO

Subscribe to our newsletter
Staufen Back To Top Button