Andriei Gutierrez*
Mundo afora se questiona como as autoridades deveriam tratar a Inteligência Artificial (IA). Deveria a IA ser guiada por alguns parâmetros mínimos? Deveria a regulação vir a posteriori, caso seja necessária? Ou deveria já ser regulada? Muitos países, organismos multilaterais, imprensa especializada, academia, organizações da sociedade empresarial e da sociedade civil encontram-se inquietos quanto a essas questões.
Nesse amplo debate, destaco as recentes Diretrizes Éticas da UE para uma inteligência artificial confiável e segura e as recomendações do Conselho da OCDE para IA, do qual o Brasil foi signatário. São iniciativas pioneiras e inspiradoras que devem ser conhecidas e estudadas com atenção, pois trazem parâmetros éticos e recomendações de políticas públicas relevantes para o avanço da IA no Brasil.
Por outro lado, essas discussões ainda não têm tido a devida atenção aqui no Brasil. Com raras exceções, ainda temos poucos debates, eventos, artigos ou propostas de políticas públicas sobre o tema. Nesse contexto, resolvi compartilhar 6 premissas que considero primordiais para avanço do debate sobre a IA no país.
1. A inovação em IA precisa ser amparada por uma abordagem baseada em riscos combinada com o estabelecimento de princípios e valores éticos. O rápido avanço tecnológico atual tem nos ensinado que nações que apoiam ideias inovadoras numa abordagem baseada em riscos têm maiores chances de sucesso. Nesse sentido, entende-se que os benefícios potenciais são superiores aos riscos e permite-se que as inovações possam florescer combinadas com mecanismos para mitiga-los.
Por outro lado, o necessário estímulo à inovação baseada em IA não significa a ausência total e absoluta de princípios e condições mínimas para o desenvolvimento e a aplicação de soluções baseadas em IA. O debate internacional tem avançado para a constatação da necessidade de tais balizas mínimas, de modo que os sistemas baseados em IA sejam criados e executados de modo a respeitar a vida humana e primar pelo seu bem-estar, pela diversidade e inclusão, por princípios democráticos e pela privacidade, além de ter uma atenção especial pela segurança, explicabilidade, transparência, controle e centralidade nos seres humanos.
Nesse campo, seria muito pertinente avançarmos seriamente rumo às recomendações feitas pela OCDE mencionadas previamente.
2. Não caiamos nas tentações simplistas, como uma regulação geral para IA. Na IBM temos tido a oportunidade de ajudar organizações de mais de 20 setores em sua transformação digital, da qual a adoção da IA é parte integrante. A partir dessa experiência, tenho cada vez mais sólida a convicção de que eventuais limites e parâmetros para as inovações e usos dos sistemas de IA devem ser muito bem discutidos e delimitados nos seus diferentes setores, de maneira pontual e muito precisa. Do contrário, criaremos uma contenção à inovação e à adoção da IA no Brasil com consequências danosas para o desenvolvimento econômico e social presente e das futuras gerações.
3. Os investimentos em IA necessitam de progressiva segurança jurídica. Por um lado, seria pertinente para a segurança jurídica que definamos, rapidamente, as situações nas quais o uso de dispositivos ou sistemas autônomos não será permitido e quando precisará da supervisão ou tutela de um ser humano. Como ainda não temos uma bola de cristal capaz de prever todas as possíveis implicações da IA, um conjunto global de princípios teria o mérito de trazer essa importante baliza e garantir a necessária segurança jurídica para empresas, governos e instituições de pesquisa. Essa segurança é essencial para estimular a adoção e o avanço em IA em larga escala.
Caso ainda persistam arestas a serem aparadas e caminhos a serem indicados, é pertinente um debate pontual e preciso sobre eventuais regulações, sempre que possível, em nível infra-legal.
4. A decisão sobre os limites para o uso da IA deve se pautar em argumentos de ordem técnica, mas em última instância será uma decisão política que irá requerer amplo debate. Quais critérios devem prevalecer no momento de avaliar e decidir se um robô pode realizar cirurgias sem a supervisão humana, se iremos aceitar o desenvolvimento de armas autônomas civis ou militares ou se será possível o transporte de passageiros e cargas por veículos e aeronaves autônomos? Quais serão as implicações legais e de imputabilidade de culpa em caso de dolo?
Tenho cada vez mais a percepção de que, embora essa decisão possa e deva ser amparada por critérios técnicos, sejam eles sociais, econômicos, ambientais e éticos, tudo indica que a instância decisiva será a política. E há ainda muita água para correr nesse rio; muito debate por ser feito. É necessário que o debate sobre a IA e políticas públicas para IA saia das esferas técnicas, hoje concentradas em organizações do setor de tecnologia, alguns poucos órgãos de governo especializados, acadêmicos e especialistas no tema. É preciso que a sociedade brasileira se aproprie do tema e faça o debate qualificado sobre a importância da IA para o presente e o futuro, seus impactos e as políticas públicas necessárias para seu avanço sustentável.
5. A abordagem baseada em risco deve vir acompanhada de mecanismos (digitais) de mitigação e accountability. A velocidade e a escala das soluções e serviços baseados em IA exigirão que nos amparemos cada vez mais em ferramentas digitais -- e baseadas na própria IA -- para monitorar, auditar e garantir o accountability dos mesmos. Em outras palavras, a sociedade digital exigirá cada vez mais que usemos ferramentas digitais para mitigar riscos de natureza digital. Do mesmo modo, precisamos avançar em um modelo regulatório que preveja, sempre que possível e pertinente, o estabelecimento de procedimentos e o uso de tais tipos de ferramentas.
6. A IA trará transformações sociais tão profundas que o país necessita de uma estratégia nacional para se preparar. Questões importantes demandam debates e (sobretudo) ações coordenadas pelo país. É importante que a sociedade brasileira reme no mesmo ritmo e sentido com políticas públicas para os diferentes domínios relevantes da IA para o país , na pesquisa aplicada, no estímulo à adoção da IA pelo setor público e privado, no desenvolvimento das habilidades digitais da mão de obra, no avanço rumo à adoção de padrões globais e interoperáveis, além da necessária segurança, confiança e do estabelecimento de princípios éticos.
Trabalharemos para isso.
* É coordenador do Comitê Regulatório da ABES e do Movimento Brasil, País Digital - http://brasilpaisdigital.com.br
