Ao contrário do que ocorre aqui, os órgãos de saúde dos países desenvolvidos estão regulando intensamente a inteligência artificial na saúde. A European Medicine Agency (EMA) e o U.S. Food and Drug Administration (FDA) exigem a submissão de soluções antes do lançamento no mercado sempre que a IA envolver o uso de dados sensíveis dos pacientes ou o suporte à decisão clínica.
O FDA, inclusive, criou um framework de aprovação para orientar o desenvolvimento seguro de algoritmos baseados em aprendizado de máquina. Nesse sentido, uma excelente forma de prever as tendências mais sólidas da IA na medicina brasileira é observar as últimas aprovações feitas pelo FDA.
Afinal, com alguns meses ou anos de atraso, elas quase sempre se popularizam no território nacional. E, nos últimos anos, o número de aprovações do FDA para a inteligência artificial na saúde cresceu substancialmente.
Quer saber mais sobre esse tema tão interessante? Acompanhe!
Cenários da inteligência artificial e do aprendizado de máquina
A inteligência artificial pode ser definida como a área da computação dedicada para a criação de máquinas inteligentes. A expressão máquinas é usada aqui em sentido amplo, podendo se referir a:
- softwares e sistemas de informação;
- hardwares;
- robôs físicos;
- dispositivos vestíveis, entre outros.
Mas o que está por trás da inteligência das máquinas? Como elas conquistam essa habilidade de aprender? O segredo está em como os algoritmos, o “manual de instruções”, que coordenam as suas operações. Para compreender isso, precisamos relembrar conceitos básicos de tecnologia da informação:
- input — é o dado que chega a uma máquina;
- output — são os resultados que ela expressa após a informação ser processada em seus algoritmos.
Algoritmos de computação tradicionais são apenas uma série de passos que são repetidos sempre da mesma forma. Diante do mesmo input, ela sempre gera o mesmo output. Quando se implementa a inteligência artificial, algumas partes do algoritmo da máquina são variáveis.
Assim, elas podem se adaptar a diversos contextos e produzir dados. Ou seja, diante de um mesmo input, podem ter a capacidade de gerar um output diferente daquele programado no código “virgem”.
Se for uma aprendizagem de máquina treinada, essa parte variável buscará imitar o comportamento de uma pessoa por meio do processo de treinamento do algoritmo. Contudo, ela pode ser programada para aprender de forma autônoma. Nesse caso, o mais comum é que ela aleatoriamente diversos comportamentos diante de um input (sempre a partir de opções que estão inscritas no seu algoritmo).
Há algoritmos que preveem ainda um reforço daquelas decisões que, estatisticamente, trouxeram um melhor resultado. Portanto, é um aprendizado baseado na otimização guiada pela probabilidade e pela estatística. Em níveis mais básicos, a nossa mente funciona assim, mas a IA é muito diferente da consciência humana.
No entanto, muita gente confunde a inteligência de máquina com a cognição humana. Isso pode acontecer até com profissionais muito experientes, como o engenheiro do Google que afirmou recentemente que um robô desenvolvido lá tinha alma. Ao contrário de nós, a máquina não tem livre-arbítrio. Ela não escolhe qual será a decisão conscientemente uma decisão.
Com ferramentas estatísticas e declarações de “se isso… então…”, ela vai na tentativa e erro até que uma fórmula matemática indique que ela seguiu um caminho ótimo. Não tem nenhum pensamento ativo.
A aprendizagem de máquina, por sua vez, é uma técnica de inteligência artificial que pode ser empregada em softwares para que eles possam aprender de acordo com os inputs. Assim, os engenheiros podem configurar o aprendizado da máquina de duas formas:
- fechado — a função do algoritmo nunca muda, ele apenas aprende a otimizar o uso de dados;
- adaptativo — a função e o comportamento do algoritmo podem mudar ao longo do tempo para “tomar decisões” otimizadas conforme novos inputs são registrados.
Daí, surgem as grandes preocupações em relação à IA aplicada à saúde:
- Quem vai treinar os algoritmos? Por exemplo, se eles vão assistir a decisão clínica, precisam ser treinados por especialistas de cada área;
- Como monitorar a lisura do treinamento? Afinal, os desenvolvedores podem adaptar o código para “forçar” os resultados que desejam;
- Como eliminar o erro humano durante o processo de treinamento? Mesmo médicos experientes cometem erros e a máquina não tem a capacidade de julgar os inputs que estão sendo inseridos;
- Na aprendizagem de máquina adaptativa, como garantir que a máquina não vai corromper a privacidade dos dados dos pacientes?
Ou seja, ao contrário do que muitos pensam, a IA/ML não é isenta de riscos.
Framework da FDA para aprovação da IA
O Framework do FDA prevê a classificação da IA em 4 níveis de risco para o paciente: I (menor risco) a IV (maior risco). Para isso, são considerados 2 critérios:
- “Importância das informações fornecidas pelo máquina para a decisão de saúde, que identifica o uso pretendido das informações fornecidas pelo SaMD – ou seja, para tratar ou diagnosticar; conduzir clínica gestão; ou para informar a gestão clínica”; e
- “Estado dos cuidados em saúde ou da condição de saúde, que identifica o usuário pretendido, doença ou condição, e a população alvo da máquina (paciente não-grave, grave, crítico etc.) “.
A tecnologia é também classificada em três categorias de acordo com o seu objetivo:
Portanto, as soluções de suporte à decisão clínica são consideradas as de menor risco em geral, ou seja, aquelas que apenas oferecem informações ao médico. Em um nível intermediário, temos soluções que intervêm no manejo clínico sob supervisão de um médico.Por fim, há uma maior preocupação em relação aos sistemas e dispositivos desenvolvidos para diagnosticar e tratar pacientes de forma autônoma.
10 últimas aprovações do FDA para soluções de IA
- Precise Position, um dispositivo da Philips para automação do diagnóstico tomográfico;
- Qmenta Care Platforma Family, um sistema da MintLabs para processamento de imagem radiológica;
- LINQ II Insertable Cardiac Monitor, Zelda AI ECG Classification System, um dispositivo implantável da Medtronic para detecção inteligente de arritmias;
- IDx-DR, dispositivo da Digital Diagnostics Inc. para detecção automatizada de retinopatia diabética;
- Pediatric Autism Spectrum Disorder Diagnosis Aid, um sistema de auxílio à tomada de decisão clínica (desenvolvido pela Cognoa ASD Diagnostic Aid) para casos de autismo;
- CINA CHEST, um software de triagem de imagens radiológicas da Avicenna AI;
- HYPER AiR, um dispositivo de diagnóstico de tomografias de tórax da Shanghai United Imaging Healthcare Co.,Ltd;
- Cartesion Prime (PCD-1000A/3) V10.8, sistema de diagnóstico de imagem da Canon Medical Systems Corporation;
- MEDO-Thyroid, um sistema de diagnóstico de imagem voltado para doenças tireodianas desenvolvido pela MEDO DX Pte. Ltd.;
- Preview Shoulder, um sistema de reconstrução 3D de imagens anatômicas da Genesis Software Innovation.
Como não sabemos o número de submissões do FDA, há duas hipóteses que justificam a liderança dos exames de imagem nas aprovações. Ou essa tecnologia está recebendo uma maior atenção de P&D pelos atores mercado ou ela vem sendo considerada como a opção mais segura pelo painel de avaliadores do órgão regulador. Vamos acompanhando as tendências enquanto isso!
Autores:
Ricardo Tadeu de Carvalho, médico, especializado em produção de conteúdo para a área da saúde. Colunista no Saúde Digital Ecossistema. CEO do RT Marketing Médico.
Lorenzo Tomé, médico, host do podcast Saúde Digital. CEO do Saúde Digital Ecossistema.