Os chatbots criam modelos de utilizadores que lhes permitem dar respostas à medida de cada pessoa. Em Harvard, uma equipa de cientistas está a analisar o impacto. E a IA invisível também já aí está. Na saúde, por exemplo
Sabia que a maneira como ‘falamos’ com os assistentes de inteligência artificial (IA) e chatbots, como o ChatGPT e outros, está a permitir que as máquinas analisem o nosso perfil? A cada interação, a capacidade de aprendizagem destes modelos de linguagem (LMM) avalia se está a interagir com um homem ou com uma mulher, se tem à sua frente alguém com mais ou menos estudos, qual o seu nível socioeconómico ou faixa etária. Usando uma expressão muito popular: a IA anda a tirar-nos a pinta.
A conclusão é de um grupo de cientistas da Universidade de Harvard, nos Estados Unidos, liderado pela brasileira Fernanda Viégas, que esteve esta semana em Portugal para participar no Data With Purpose Summit (DWP), organizado pela Nova Information and Management School (Nova IMS).
Mas o que pensam os chatbots de nós e porque é que isso importa? A questão, que serviu de ponto de partida à intervenção de Fernanda Viégas, tem uma resposta relativamente simples: “Os LLM estão a avaliar os humanos com base nas conversas e nas palavras utilizadas porque estão a criar modelos de utilizadores”, explica a professora, que é também cientista principal na Google.
Esta aprendizagem e análise pode, no entanto, criar enviesamento nas respostas e na informação fornecida. “O treino das LMM procura retirar o preconceito da equação, mas as máquinas podem estar a criá-lo quando interagem connosco”, alerta. O objetivo da capacidade de aprendizagem da máquina, potenciado por tecnologias de Deep Learning e de IA generativa, é que possa dar respostas mais informadas, corretas e adequadas ao que lhe é perguntado. Contudo, diz a investigadora, “ao criar modelos de utilizadores, corremos o risco de a IA estar a segmentar e a dar respostas distintas conforme o perfil”. E exemplifica: numa pesquisa realizada com quatro mil utilizadores, os cientistas verificaram que para a questão “gosto de escrever, mas também gosto de matemática, que empregos devo procurar?” as respostas foram distintas consoante a avaliação do chatbot sobre o género, os níveis de educação e socioeconómico do utilizador.
Para evitar esta segmentação, a equipa de Harvard desenvolveu uma solução que permite ao utilizador perceber como está a ser avaliado para que possa adequar as suas questões. O objetivo, diz a investigadora, é “evitar situações como a que há pouco mais de uma semana levou a OpenAI (proprietária do ChatGPT) a retirar a nova versão, que era perigosamente bajuladora”.
Mas a IA não traz apenas perigos. Quando Ermelinda, 84 anos, teve alta do hospital depois de uma crise de insuficiência cardíaca, passou a receber diariamente uma chamada para avaliar o seu estado. De volta à unidade de saúde, no Alentejo, após uma consulta confessou ao médico que aquela senhora que lhe ligava era a melhor contratação que tinham feito — “uma simpatia”. A senhora simpática é um chatbot. “A melhor IA é aquela que o utilizador nunca vê”, disse Vítor Manita, que participou no DWP. O responsável de GenAI da Loka não tem dúvidas de que a saúde é uma das áreas em que a IA poderá ter mais impacto, não só nos avanços clínicos, mas também na gestão. Uma opinião partilhada por Ricardo Batista Leite, que lidera a HealthAI. “A IA ajuda a criar políticas públicas mais ajustadas.”
A terceira edição do DWP terminou com a apresentação dos três finalistas da competição Dean’s Challenge, que tem como meta interpretar dados e retirar valor e conhecimento útil para a inovação com impacto nas pessoas. No palco, para o pitch final, estiveram os projetos Inner Shift, Revive e Disastra. O vencedor foi a aplicação Revive, desenvolvida para ajudar a combater o burnout nos profissionais de saúde.
FRASES DA CONFERÊNCIA
“A IA pode ajudar a melhorar os ganhos em saúde. Atualmente, gastamos mais dinheiro e a população está cada vez mais doente”
“É preciso olhar o contexto e avaliar a melhor forma de usar a IA com impacto. Modelos regulatórios devem ser ajustados à sua capacidade”
“Os procedimentos algorítmicos de tomada de decisões também podem e devem ser auditados para detetar preconceitos”
Tem dúvidas, sugestões ou críticas? Envie-me um e-mail: clubeexpresso@expresso.impresa.pt
