Por que a indústria da aviação está adotando uma abordagem mais cautelosa em relação à IA no cockpit

Embora a velocidade com que a inteligência artificial (IA) esteja se disseminando na sociedade pareça romper a barreira do som, as autoridades da aviação estão adotando uma abordagem mais lenta e cautelosa para suas potenciais aplicações na cabine. Afinal, as implicações de um sofisticado sistema de IA atuando como copiloto levantam questões sérias — como, por exemplo, se ele questionaria ou até mesmo impediria o piloto humano de voar caso detectasse uma emergência iminente, que pode ou não existir.

A resposta ainda não é definitiva. A Administração Federal de Aviação (FAA) e a Agência de Segurança da Aviação da União Europeia (EASA) publicaram artigos reconhecendo o futuro da IA nas operações de aeronaves, enfatizando que a segurança deve ser o critério principal para certificação. A EASA prevê uma implementação em três estágios: inicialmente, a IA auxiliaria pilotos humanos com informações; depois, até 2035, “equipes” compostas por humanos e IA trabalhariam juntas; e, finalmente, após 2035, haveria automação avançada e voo autônomo.

“As pessoas se sentem confortáveis com um piloto humano na cabine”, diz Robin Riedel, engenheiro aeroespacial, piloto de linha aérea certificado e sócio da McKinsey & Company. “Os elevadores costumavam ser operados por humanos pelo mesmo motivo, mas hoje quase não há operadores de elevadores.”

Riedel aponta que a IA já está presente na aviação privada, abrangendo desde o design de aeronaves até operações e programação de manutenção. Sistemas de piloto automático, controles fly-by-wire e visão sintética, embora não sejam equivalentes a um copiloto de IA, também dependem fortemente de computadores. “A IA não está a 30 anos de distância”, ele afirma. “Ela já está no cockpit.”

O foco inicial está na IA determinística, uma forma de aprendizado de máquina na qual os resultados não se desviam de regras predefinidas. De acordo com Riedel, essa tecnologia deve ser certificável porque seus resultados são previsíveis. “No final das contas, trata-se de reduzir a carga de trabalho do piloto e tornar o voo mais seguro”, explica.

Depois, há a IA não determinística, projetada para aprender, adaptar-se e oferecer uma variedade de respostas a uma mesma entrada. Essa forma preocupa os reguladores, especialmente se o sistema iniciar uma manobra com base em sua própria lógica, em vez de uma situação de voo realista. “Sabemos que não podemos confiar 100% nela, mas podemos testá-la exaustivamente até atingir um nível aceitável de confiança”, diz Riedel, destacando que, em qualquer cenário, os pilotos humanos poderão anular as decisões do sistema. Uma preocupação ainda maior é o potencial de uma violação de segurança cibernética, permitindo que hackers assumam o controle da aeronave remotamente.

Apesar da apreensão pública e dos desafios para certificação, a startup suíça Daedalean AI criou um sistema de visão chamado PilotEye, que usa uma rede neural para identificar e categorizar aeronaves que se aproximam, além de outros objetos no ar. Esse sistema está prestes a se tornar uma das primeiras aplicações de IA não determinística em cockpits.

“O objetivo é melhorar a segurança e criar inteligência situacional”, diz Yemaya Bordain, diretora comercial e presidente das Américas da Daedalean AI. Bordain assegura que o sistema não tomará decisões pelo piloto, mas fornecerá alertas visuais e verbais, além de orientação para pousos. Segundo ela, o programa se diferencia de outras IAs não determinísticas “porque treinamos nosso modelo em campo, tornando-o representativo do mundo real”.

Em 2023, a Daedalean testou com sucesso o sistema em voo com a Leonardo Helicopters, e sua colaboração de pesquisa com a EASA contribuiu para a definição de diretrizes da agência. A empresa, sediada em Zurique, trabalha para obter a certificação do PilotEye ainda este ano. “Estamos demonstrando que não determinístico não precisa significar não certificável”, afirma Bordain. No entanto, sem regulamentações claras e com pouco entendimento público sobre o tema, pode levar muito mais tempo para que a IA avançada conquiste definitivamente seus espaços na aviação.

Reportagem original: Why the Aviation Industry Is Taking a More Cautious Approach to A.I. in the Cockpit