Ingresso da IA generativa na saúde gera controvérsias

Tudo sobre Inteligência Artificial

O avanço rápido da inteligência artificial (IA) generativa está pronto para transformar a saúde, mas não sem levantar preocupações significativas entre profissionais e pacientes.

Google Cloud, Amazon AWS e Microsoft Azure estão liderando colaborações para integrar a IA generativa em vários aspectos da prestação de cuidados de saúde. O Google está trabalhando na personalização das experiências de admissão de pacientes, a Amazon está explorando a análise de bancos de dados médicos, e a Microsoft está ajudando na automação da triagem de mensagens para provedores de cuidados.

Leia mais:

Startups como Ambience Healthcare, Nabla e Abridge também estão investindo pesadamente em aplicações de IA generativa voltadas para o setor de saúde, com apoio substancial de empresas de capital de risco.

• Apesar do entusiasmo dos investidores e das empresas de tecnologia, o ceticismo é evidente quanto à prontidão da IA generativa para o horário nobre da saúde.
• Andrew Borkowski, da Rede de Saúde VA Sunshine, alertou contra o implante prematuro, citando limitações significativas e preocupações com eficácia.
• Estudos mostraram altas taxas de erro nas capacidades diagnósticas da IA generativa e suas dificuldades com tarefas administrativas médicas.
• Uma preocupação crítica é o potencial reforço de estereótipos.
• Pesquisas indicaram que os chatbots alimentados por IA generativa podem perpetuar preconceitos, especialmente no que diz respeito às disparidades raciais na saúde.
• Esse problema poderia agravar as desigualdades existentes no tratamento, especialmente para comunidades marginalizadas que têm mais probabilidade de depender dessas tecnologias.
• Embora alguns argumentem que a IA generativa está melhorando, com estudos demonstrando altas taxas de precisão em determinados benchmarks médicos, os especialistas enfatizam a necessidade de cautela.
• Arun Thirunavukarasu destaca a importância da ciência rigorosa e da supervisão clínica, especialmente considerando a natureza sensível dos dados médicos e os cenários regulatórios em evolução.

A Organização Mundial de Saúde divulgou diretrizes defendendo processos de desenvolvimento transparentes e avaliações de impacto rigorosas para a IA generativa na saúde. Até que essas preocupações sejam adequadamente abordadas e salvaguardas sejam implementadas, a implementação generalizada pode representar riscos para pacientes e para o setor de saúde como um todo.