Os Modelos de Linguagem de Grande Escala (LLMs), como o GPT-3 e o ChatGPT da OpenAI, têm revolucionado diversas áreas do conhecimento, destacando-se significativamente no setor de saúde. Essas ferramentas avançadas de inteligência artificial demonstram uma capacidade notável não apenas na organização de notas de pacientes e documentos clínicos, mas também no suporte a decisões complexas em ambiente médico.

Os chatbots baseados em LLM apresentam a capacidade de transformar a prática médica, aumentando a eficiência ao diminuir a carga de trabalho e aprimorando o desempenho. Nesta área, a precisão dos dados e a qualidade dos processos de treinamento dos LLMs são preocupações significativas, especialmente devido à possibilidade de gerarem respostas incorretas, fenômeno muitas vezes referido como “alucinações”. Portanto, é fundamental avaliar a qualidade das respostas desses sistemas para assegurar a segurança dos pacientes, representando um dos principais desafios para sua implementação efetiva.

Este artigo visa explorar em profundidade o papel dos LLMs na medicina, baseando-se em evidências de pesquisas recentes para discutir seu uso potencial, desafios enfrentados e direções futuras para sua implementação efetiva na área da saúde.

Utilidade clínica dos Modelos de Linguagem de Grande Escala

Os LLMs mostram um potencial significativo para revolucionar como as informações clínicas são gerenciadas. Eles oferecem melhorias substanciais na eficiência e organização de anotações em sistemas de registros médicos eletrônicos (EMRs) e na documentação de relatos de casos. A capacidade de padronizar registros médicos e identificar erros em texto e dados laboratoriais pode diminuir consideravelmente o tempo gasto pelos profissionais de saúde em tarefas administrativas, permitindo-lhes dedicar mais atenção ao cuidado direto ao paciente.

Contudo, a aplicabilidade e precisão do ChatGPT e outros modelos similares podem variar significativamente com a complexidade das condições médicas abordadas. Por exemplo, a geração automática de cartas médicas para pacientes com diferentes tipos de câncer de pele revelou limitações, indicando uma necessidade urgente de melhorias contínuas e ajustes no treinamento desses modelos para garantir uma precisão consistente em diagnósticos e recomendações.

Implicações éticas, legais e logísticas

A adoção de LLMs em ambientes clínicos traz consigo uma série de desafios éticos, legais e logísticos. As questões de viés de dados são particularmente preocupantes, dado que podem influenciar negativamente as saídas do modelo, resultando em cuidados prejudiciais. A privacidade e a segurança dos dados dos pacientes também são de extrema importância, pois a confidencialidade deve ser mantida sob todas as circunstâncias.

Do ponto de vista logístico, a ausência de métodos padronizados para avaliar a eficácia dos LLMs resulta em variações significativas na sua adoção e eficácia na prática clínica. A proposta de integração do ChatGPT como um serviço conectado à internet poderia ser uma estratégia para manter o modelo atualizado com as últimas diretrizes clínicas e práticas médicas, reduzindo a carga operacional e melhorando a sua aplicabilidade.

Facilitação da navegação no sistema de saúde por pacientes

LLMs têm o potencial de empoderar pacientes, facilitando o acesso a informações claras e compreensíveis sobre saúde, tratamentos e análises de resultados de exames. No entanto, as respostas geradas por modelos como o ChatGPT podem não ser sempre abrangentes ou consistentemente reprodutíveis, nem sempre estão alinhadas com as diretrizes de gestão clínica mais atualizadas. Isso destaca uma lacuna crítica na pesquisa e desenvolvimento desses modelos, apontando para a necessidade de aprimoramentos que assegurem a entrega de informações precisas e confiáveis.

Suporte à decisão clínica

Na esfera da decisão clínica, os LLMs contribuem para a redução de erros médicos, assistência na superação de barreiras linguísticas e culturais, e fornecem suporte contínuo em diversas situações clínicas. Apesar dessas vantagens, a precisão inconsistente em questões médicas complexas e o viés racial e cultural presentes nos conjuntos de dados de treinamento são desafios persistentes que necessitam de atenção rigorosa.

A diversidade dos métodos utilizados para avaliar a utilidade clínica dos LLMs e a consequente variabilidade nas respostas indicam a necessidade de desenvolver uma abordagem mais padronizada e rigorosa. A implementação de técnicas de aprendizado de poucos exemplos e a elaboração cuidadosa de prompts podem ser estratégias promissoras para melhorar a precisão e relevância das respostas fornecidas pelos modelos.

Portanto, os LLMs apresentam um potencial revolucionário em diversas aplicações clínicas. No entanto, é importante reconhecer e abordar suas limitações inerentes para garantir que não resultem em recomendações errôneas ou diagnósticos inadequados. A supervisão humana é essencial, assim como a validação contínua e a replicação dos estudos para explorar e navegar cuidadosamente os desafios associados ao uso de LLMs na medicina. Continuar a investigar e melhorar essas ferramentas poderá maximizar seus benefícios e minimizar riscos, promovendo uma integração mais segura e eficaz em ambientes de saúde.

O Centro Paulista é referência na manipulação de fórmulas. Atuamos em praticamente todos os segmentos da Medicina e da Nutrição, podendo colaborar dentro de nossas especialidades e oferecer aos pacientes excelentes produtos e serviços.

Referências

Park, YJ., Pillai, A., Deng, J. et al. Assessing the research landscape and clinical utility of large language models: a scoping review. BMC Med Inform Decis Mak 24, 72 (2024). https://doi.org/10.1186/s12911-024-02459-6

Yalamanchili A, Sengupta B, Song J, et al. Quality of Large Language Model Responses to Radiation Oncology Patient Care Questions. JAMA Netw Open. 2024;7(4):e244630. doi:10.1001/jamanetworkopen.2024.4630.