AI Procurement in a Box: lições de boas práticas do Brasil

As tecnologias de inteligência artificial (IA) podem transformar a implantação de operações governamentais, expandindo serviços, melhorando a eficiência e implementando melhorias de redução de custos.

No entanto, os riscos inerentes ao uso dessas tecnologias podem ser difíceis de prever, especialmente em entidades governamentais que ainda não possuem capacidades institucionais adequadas para implementar sistemas de IA.

Apesar de algumas iniciativas relevantes nessa área, os governos costumam sofrer as consequências da falta de recursos e de pessoal qualificado para acompanhar a contratação e o desenvolvimento de soluções de IA, o que atrasa a difusão dessa tecnologia no setor público.

Kit de ferramentas de aquisição de IA para o setor público

Com essas considerações em mente, o Fórum Econômico Mundial publicou ” Unlocking Public Sector AI: AI Procurement in a Box” em 2020, um kit de ferramentas com 10 diretrizes projetadas para ajudar os governos a avaliar adequadamente suas necessidades tecnológicas e contextuais e os riscos associados à contratação de IA soluções.

Um produto da colaboração entre atores do setor público, a orientação do kit de ferramentas extraída de pilotos conduzidos no Reino Unido e descobertas derivadas de workshops no Bahrein, na Índia e nos Emirados Árabes Unidos.

Para desenvolver esse trabalho e trazer essas práticas para o Brasil, o Centro para a Quarta Revolução Industrial Brasil (C4IR Brasil) implementou o kit de ferramentas AI Procurement in a Box em parceria com o Metrô de São Paulo e o Hospital das Clínicas.

Pretendemos entrar no debate existente sobre compras governamentais de inovação e beneficiar o uso ético do setor público de IA artificial e a preparação institucional para as tecnologias da Quarta Revolução Industrial (4IR).

Além disso, queríamos ver como podemos adaptar o kit de ferramentas para o contexto brasileiro para demonstrar como dimensionar essas melhores práticas em todo o mundo.

Como resultado, publicamos um kit de ferramentas sobre o primeiro com recomendações específicas para o contexto brasileiro, ilustrando os dois estudos de caso mencionados acima e conectando-os a desafios específicos na aquisição de IA no Brasil, que identificamos por meio de conversas com stakeholders relevantes.

Desafios para as compras públicas no Brasil

Um de nossos desafios significativos é que a estrutura de compras públicas no Brasil é complexa e relativamente restritiva, o que resulta em funcionários seguindo procedimentos estereotipados que não são adaptados para incentivar a inovação e a avaliação holística das propostas de projetos. Muitos servidores públicos não estão familiarizados com as práticas de inovação ou aquisição de IA e dependem de processos de licitação reversa que podem não avaliar adequadamente projetos complexos.

Por meio de nosso projeto piloto com o Metrô de São Paulo – uma das maiores malhas ferroviárias da América Latina com 3,7 milhões de passageiros por dia – pudemos testar as diretrizes em um processo concreto de compras.

Devido ao grande volume de tráfego com o qual o sistema metroviário lida diariamente, muitas interrupções para manutenção ocorrem ao longo do dia, atrasando o serviço em aproximadamente 1.840 minutos de interferência entre 2016 e 2020.

Para aumentar a eficiência, o Metro está se preparando para comprar uma ferramenta de modelagem preditiva on-line em tempo real que pode identificar segmentos ferroviários que precisam de manutenção e minimizar interrupções de serviço para beneficiar os passageiros e o sistema de metrô.

Ao aplicar as diretrizes AI Procurement in a Box, o Metrô foi capaz de alavancar a legislação brasileira de compras de inovação para envolver as partes interessadas essenciais e comunicar efetivamente os detalhes do projeto aos fornecedores em potencial.

O Metrô também aplicou a primeira avaliação de impacto algorítmica do Brasil para avaliar os riscos do uso de IA e ajudar a formular estratégias eficazes de mitigação.

O estudo de caso do Hospital das Clínicas de São Paulo analisou a jornada de uma instituição rumo à maturidade técnica e de acesso a dados, principalmente para o uso ético da IA ​​em uma área de escrutínio público.

Por suas atribuições multifacetadas, a instituição vislumbrou organizar seus mais de 60 sistemas e protocolos em um aparato coeso que lhe permitisse utilizar com eficiência o enorme volume de dados que coleta em suas outras áreas de atuação – ensino, pesquisa e inovação.

Para superar uma infinidade de obstáculos na consecução desse objetivo, o hospital concentrou-se na integração de registros de dados dentro e fora do hospital, criando um data lake; capacitação técnica da força de trabalho e otimização de iniciativas; arquitetura e gestão de dados e harmonização de dados entre diferentes áreas.

Importância do projeto AI Procurement in a Box

As lições desses dois estudos de caso ilustraram a importância do projeto AI Procurement in a Box e como a orientação do Fórum Econômico Mundial pode continuar a evoluir e beneficiar funcionários do setor público, particularmente no Sul Global e áreas de poucos recursos.

Como uma extensão do projeto original, o Fórum e o C4IR Brasil publicaram ‘Unpacking AI Procurement in a Box: Insights from Implementation’ . Este white paper discute vários aspectos de aquisição e adoção do setor público, como maturidade de IA para organizações do setor público – desde infraestrutura básica até governança de dados, pessoas e cultura.

Também nos concentramos em olhar além das avaliações de risco e em direção a uma combinação de políticas que regem essas tecnologias. Que tipos de ferramentas de supervisão, além do controle humano, são necessárias para garantir a segurança e a eficácia?

Para facilitar a implementação global contínua do AI Procurement in a Box, incluímos um conjunto de indicadores para entender o sucesso de um projeto de aquisição de IA para orientar qualquer parceiro de implementação no futuro.

Esperamos que este projeto continue a ser implementado, não apenas por meio dos centros C4IR afiliados, mas também por governos em todo o mundo. Com isso, a AI Procurement in a Box crescerá e sempre compartilhará as melhores práticas necessárias para uma IA responsável e inovadora do setor público em todo o mundo.