Decisões automatizadas de acordo com a LGPD: Garantindo Direitos e Transparência

Por equipe Leonardo Gutierrez Alves Sociedade de Advogados

No mundo atual, onde o uso de algoritmos e inteligência artificial está cada vez mais presente, a proteção de dados pessoais tornou-se uma prioridade. O gerenciamento de dados por meio de algoritmos tem gerado um impacto significativo no exercício e acesso a direitos fundamentais, muitas vezes impedindo que os titulares de dados compreendam como seus direitos estão sendo afetados. A Lei Geral de Proteção de Dados (LGPD) surge como um marco regulatório para combater abusos e práticas discriminatórias no uso de dados pessoais em decisões automatizadas. Este artigo explora o "direito à explicação" previsto na LGPD, uma ferramenta essencial para garantir transparência e justiça no tratamento de dados pessoais.

O Impacto das Decisões Automatizadas

As decisões automatizadas, feitas por meio de algoritmos, são amplamente utilizadas em diversos setores, incluindo financeiro, comercial e de recursos humanos. Esses algoritmos podem definir perfis pessoais, profissionais, de consumo e de crédito, além de impactar aspectos da personalidade dos indivíduos. No entanto, sem a devida transparência, essas decisões podem perpetuar práticas discriminatórias e criar assimetrias de informação que prejudicam os titulares dos dados.

Direito à Explicação na LGPD

Para combater esses desafios, a LGPD introduz o "direito à explicação". Esse direito garante que os titulares de dados possam entender como e por que suas informações estão sendo processadas por algoritmos. A transparência no tratamento de dados pessoais é crucial para assegurar que as decisões automatizadas sejam justas e não discriminatórias. De acordo com a LGPD, as informações sobre o tratamento de dados devem ser claras, precisas e facilmente acessíveis, respeitando os segredos comercial e industrial.

Transparência e Revisão de Decisões Automatizadas

Além de garantir a transparência, a LGPD assegura aos titulares de dados o direito de solicitar a revisão de decisões totalmente automatizadas que afetem seus interesses. Isso inclui decisões que definem perfis pessoais, profissionais, de consumo e de crédito. A possibilidade de revisão permite que os indivíduos questionem e compreendam as bases das decisões, promovendo um ambiente mais justo e equitativo.

Evitando Práticas Discriminatórias

O direito à explicação não se limita a um setor específico; ele abrange todo tipo de tratamento de dados pessoais. Ao proporcionar uma compreensão clara do funcionamento dos algoritmos, a LGPD visa evitar a manutenção de práticas discriminatórias. A transparência contribui para a redução da assimetria de informações entre as empresas que utilizam dados pessoais e os titulares desses dados, promovendo uma maior confiança e segurança no uso de tecnologias avançadas.

Conclusão

A implementação do "direito à explicação" na LGPD representa um avanço significativo na proteção de dados pessoais no Brasil. Ao garantir transparência e a possibilidade de revisão de decisões automatizadas, a LGPD não apenas protege os direitos dos titulares de dados, mas também promove práticas empresariais mais justas e éticas. Com a crescente dependência de algoritmos, é essencial que as organizações adotem medidas para garantir que o uso de dados pessoais seja transparente, justo e não discriminatório. A LGPD, com seu foco na proteção de dados e direitos dos indivíduos, coloca o Brasil na vanguarda da regulamentação de dados em um mundo cada vez mais digital.

Perguntas e respostas frequentes (FAQ)

1. O que a Lei Geral de Proteção de Dados (LGPD) considera como uma "decisão automatizada"? 

Decisões automatizadas referem-se a processos que utilizam exclusivamente algoritmos e lógica computacional para analisar dados pessoais e tomar uma decisão, sem a participação direta de uma pessoa nesse ato decisório. São baseadas em sequências pré-definidas de comandos e tratamento de dados que chegam a conclusões capazes de sujeitar um indivíduo a uma determinada ação ou restrição.

2. Existe diferença entre "decisão automatizada" e "declaração de vontade automatizada"? 

Sim, são conceitos jurídicos e práticos distintos. A decisão automatizada avalia dados pessoais para tomar uma deliberação que gere impactos ao titular, enquanto a declaração de vontade automatizada é apenas o uso de um sistema para averiguar, de forma binária, o cumprimento de um pré-requisito técnico, sem possuir qualquer poder decisório ou inferencial sobre o perfil do usuário.

3. Quais são os principais riscos das decisões automatizadas para o cidadão? 

A automação de dados tem gerado impactos sensíveis nos direitos fundamentais da população. Sem a devida transparência, essas decisões mecânicas podem criar profundas assimetrias de informação e perpetuar práticas discriminatórias que limitam e prejudicam as pessoas em acessos à linhas de crédito, planos de saúde, seguro de vida, empregos e elegibilidade para compras de bens.

4. O que é o "direito à explicação" estabelecido e garantido pela LGPD? 

O direito à explicação é uma prerrogativa do titular dos dados para que possa entender detalhadamente como, por qual lógica e por quais motivos suas informações estão sendo processadas pelos algoritmos. Esse direito obriga as empresas (controladores) a fornecerem informações claras e adequadas a respeito de todos os procedimentos e critérios que levaram à decisão automatizada.

5. A empresa é obrigada a expor ou "abrir" o código-fonte secreto de seu algoritmo para dar a explicação? 

Não. Embora os algoritmos afetem vidas, a lei ressalva que o dever de transparência não é absoluto de forma a quebrar o modelo de negócio. A LGPD assegura que as explicações fornecidas deverão observar e respeitar integralmente os segredos comercial e industrial da empresa dona da tecnologia.

6. Se a empresa se recusar a oferecer explicações alegando sigilo industrial, quem fiscaliza esse limite? 

A proteção ao titular se mantém, pois caso não haja o fornecimento de informações sob a justificativa de segredo comercial e industrial, a Autoridade Nacional de Proteção de Dados (ANPD) é quem tem o poder para adentrar na ferramenta e realizar uma auditoria completa no sistema.

7. O que a auditoria técnica da ANPD busca garantir caso entre no sistema da empresa? 

Conforme expresso no artigo 20 da LGPD, a auditoria efetuada pela autoridade nacional no caso de negativa de prestação de contas tem o intuito estrito e único de verificação de possíveis aspectos ou vieses discriminatórios enraizados no tratamento automatizado de dados.

8. O titular dos dados possui o direito de contestar o resultado final de uma Inteligência Artificial? 

Sim. A legislação foi elaborada exatamente para combater abusos, garantindo ao titular o direito expresso de solicitar a imediata revisão de qualquer decisão tomada unicamente com base no processamento e tratamento automatizado de dados caso esta decisão afete negativamente seus interesses.

9. Posso pedir a revisão se a máquina avaliar apenas o meu comportamento para ditar meu crédito? 

Com certeza, a LGPD é expressa ao prever a possibilidade de solicitar revisão das decisões destinadas a definir o seu perfil pessoal, a sua classificação profissional, os seus hábitos e padrões de consumo e crédito, assim como para algoritmos que traçam de maneira autônoma aspectos referentes à sua própria personalidade (profiling).

10. A revisão de uma decisão tomada pela máquina deverá obrigatoriamente ser feita por uma pessoa de carne e osso? 

Atualmente não é uma obrigação legal. A LGPD, em sua redação original de 2018, previa que tal revisão devia ser feita por "pessoa natural", exigindo o chamado human in the loop. Entretanto, essa previsão protetiva foi suprimida e alterada definitivamente pela Lei nº 13.853/2019, permitindo que as companhias adotem meios de revisão desvinculados de humanos.

11. O que é um algoritmo de "caixa-preta" (BlackBox) no contexto do direito à explicação? 

Muitos sistemas automatizados atuais operam mediante Redes Neurais Profundas (Deep Learning) com grande capacidade de aprendizagem autônoma de máquina. Ao operarem como "caixa-preta", esses sistemas reajustam seus pesos e formam inferências lógicas tão complexas que o percurso para o resultado fica escondido até do seu programador, dificultando sobremaneira dar uma explicação racional na justiça sobre o porquê de uma decisão final.

12. Por que as empresas preferem se arriscar usando sistemas BlackBox em vez de algoritmos mais explicáveis? 

Porque no ambiente de inovação a resposta técnica é imbatível. Controladores e desenvolvedores tendem a preferir o uso da rede em formato "caixa-preta" devido ao alto grau de eficiência do seu código, priorizando níveis de performance e processamento preditivo de ponta muito superiores em relação a modelos simples e limitados e facilmente explicáveis.

13. A doutrina entende que o direito à explicação se divide temporalmente nas abordagens "ex ante" e "ex post"? 

Sim, na tentativa de melhor tutelar o indivíduo, divide-se a proteção legal em fases. O viés ex ante assegura ao usuário que seja informado no início de uma contratação sobre quais parâmetros ou regras servirão de entrada para a avaliação da máquina. Já o pilar ex post, garante que, depois que a decisão foi implementada e já gerou impacto à pessoa, ela obtenha esclarecimentos e possa contestá-la para fins de retificação.

14. Como o Superior Tribunal de Justiça (STJ) avalia e julga ações que pedem a auditoria em cálculos automatizados de Score de Crédito? 

Neste exato contexto analítico, o entendimento consolidado na Corte Superior é que a matemática e a metodologia em si de cálculo contábil para se chegar à nota de risco no "credit scoring" (fórmulas e modelos estatísticos autônomos) constituem e devem ser resguardadas rigorosamente como segredo da atividade empresarial, isentando as empresas de divulgarem o código algorítmico.

15. Se a fórmula do Score de Crédito é um segredo perante o STJ, como o consumidor comprova as ilegalidades? 

O balanço ocorre na garantia do direito primário. O Tribunal de Justiça exige que, sob provocação, seja ofertado ao consumidor amplo acesso às próprias informações pessoais tratadas como fontes de coleta e aos critérios balizadores da avaliação. Assim, o titular atua corrigindo as imperfeições, sendo permitido a ele alterar essas premissas caso o insumo seja irreal ou inadequado.

16. A automação pode inflacionar preços de maneira puramente baseada no local de quem acessa o site comercial? 

Mudar preços baseando-se meramente na geografia (Geo-Pricing e Geo-Blocking) através de identificação digital pode ser ilícito e afeta garantias de isonomia, atraindo o Judiciário contra decisões da máquina. Ferramentas como o Decolar.com já foram alvo de Ação Civil Pública para demonstrar os perigos de se cobrar preços variados automatizados baseados sem o consentimento do titular de dados da sua localização (via IP).

17. O algoritmo garante análises cegas ou eles também sofrem com preconceito (Viés Algorítmico)? 

Algoritmos não são politicamente isentos e o grave e indesejado risco desse tipo de processamento é a discriminação invisível embasada na base de dados utilizada. Casos polêmicos internacionais validam esse fenômeno, a exemplo de I.A em recrutamento da Amazon que excluía dados femininos para vagas e o programa da justiça americana que automatizou com avaliações mais duras o risco em pessoas de etnias minoritárias do que para cidadãos brancos (software Compas).

18. O Judiciário trabalhista brasileiro já repreendeu o emprego opaco e manipulatório de dados em uma relação entre empresa e funcionários? 

Sim. No reconhecido caso Lojas Havan o juízo em grau recursal reconheceu diferenças salariais de vendedor ao verificar a transmissão abusiva dos riscos contra os seus esforços e rendimentos provindas de ferramentas informatizadas da empresa ("RH 4.0") as quais adotavam comandos pouco ou nada transparentes que impunham rotinas impossíveis para que se questionasse com lisura a interferência do robô nos resultados laborais do funcionário.

19. É obrigatório haver o processamento de dados nas rotinas iniciais do meu departamento de seleção profissional? 

O recrutamento adota a automatização massiva do volume currículos como evolução. Contudo a área do seu negócio detém como prática preventiva e inadiável advertir imediatamente aos eventuais interessados àquela vaga que os seus cadastros vão passar por escrutínios de Inteligência Computacional, primando na essência pela transparência.

20. O modelo Europeu da GDPR (General Data Protection Regulation) assegura o exato direito à explicação após o trânsito da decisão em face do algoritmo?

 Doutrinadores travam profundo debate e afirmam que, em contraponto literal ao ordenamento da lei brasileira, o texto europeu dispõe essencialmente da garantia ao não engajamento em um tratamento de decisão 100% autônomo perante perfis limitadores. Alguns concluem ser duvidoso extrair da norma internacional a base afirmativa do "direito de explicação ex post" no lugar do "direito à mera informação genérica da ferramenta".

21. A implantação de monitoramento de câmera por face nas ruas atinge leis sobre as decisões autônomas de perfis? 

Toda ferramenta autônoma para análise de perfil deve ter obediência moral. Exemplo disto no Brasil foi o emprego sem clareza por empresa do Metrô Paulista (ViaQuatro) de captação digital que identificava idade e variações de sensações dos rostos nos transeuntes perante os painéis da via, a fim de extrair de maneira não divulgada o perfil com o fito de faturamento comercial e sofrendo o enfrentamento por Ação de Proteção pelo Instituto de Defesa do Consumidor (Idec).

22. O próprio Sistema Judiciário também desenvolve autômatos nas rotinas de Justiça do Brasil? 

O poder judicial encabeça a liderança do ambiente e integra soluções robustas nos trâmites. Inovações no próprio Tribunal de Justiça do Mato Grosso (TJMT) incluíram processos cibernéticos para a confecção e o cruzamento interno das documentações, efetuando o registro de verificação de depósitos da vara, validando alvarás além de gerar e registrar eletronicamente certidões e atos intimatórios automáticos dentro da ferramenta processual.

23. O Judiciário editou regras a seus desenvolvedores quanto à introdução dos "robôs judiciais"? 

O Conselho Nacional de Justiça publicou a Portaria n° 271/2020 e a Resolução n° 332/2020 pautando diretrizes severas orientando a arquitetura algorítmica judiciária sob a exigência fundamental e rigorosa da equidade, impulsionando a revisão e os devidos deveres à privacidade nos códigos a fim e obstar a consolidação e discriminação automatizada no Estado.

24. O que é enquadrado juridicamente na nova geração da "Inteligência Artificial Generativa"? 

Com as políticas pioneiras exaradas, como o caso do Tribunal de Justiça do Paraná, entende-se por modelo ou Inteligência de aspecto generativo todo o ecossistema tecnológico com fundamento nos processamentos computacionais ou neurais o qual autarquicamente concebe versões exclusivas voltadas na formação de criações inéditas seja por voz, figura e texto através do input e massiva alimentação das coleções para a formulação com os usuários em resposta.

25. A figura do robô tomará lugar final na pena dos acusados da esfera judicial ou arbitral do Brasil? 

A despeito da integração de massivo apoio robótico aos relatórios da corte e agilidade na confecção para o crivo perante as avaliações no PJe, a norma brasileira determina restrições rigorosas afirmando as plataformas e automações servirem fundamentalmente a "apoio" às tomadas dos magistrados sem extinguirem a avaliação basilar da pessoa física sobre o cidadão e respeito ao devido contraditório da conduta humana e julgamentos e da ampla defesa social.

26. A exigência do "direito de o consumidor compreender as lógicas" aniquila a criatividade e freia a exploração de capital da modernidade e o uso de dados? 

Em absoluto, muito pelo revés, a implementação tem premissa fundamental. É imperioso resgatar que no bojo da LGPD, a imposição da inovação da lei garante explicitamente e encoraja as garantias sob valores que envolvem "o desenvolvimento econômico, a livre concorrência bem como o tecnológico" harmonizando os Direitos Humanos em convívio com o desenho mercadológico de Privacidade (Privacy by Design) para que toda inovação na ciência alcance a confiança digital frente as regulações.

27. É possível que os certificados reponham a carência legal dos códigos incompreensíveis da inteligência de aprendizagem de máquina contra o usuário? 

Alguns juristas apoiam essa vertente. Quando a abertura de código da rede não possibilita uma resposta humana satisfatória sobre as motivações do processamento, defende-se a introdução para os consumidores dos atestados de garantia nos portais e de "selos e validações" pelas instituições e auditorias provando em contrapartida que o ecossistema e software corporativo e o negócio é livre de condutas discriminatórias algorítmicas mitigando a opacidade pela tecnologia da empresa aos clientes.

28. É legítima a requisição e exclusão das automatizações ao passo que os robôs da I.A não agrupam de forma criminosa a população baseadas na renda, por exemplo? 

A preocupação legal baseia as tutelas antes mesmo do prejuízo explícito de crime. Os especialistas impulsionam prementes proteções ex ante contra qualquer modelo genérico propício ao dano e separação para classificar artificialmente dados com potencial segregação com as avaliações generalizadas fundamentadas no contexto do gênero, do status e da origem ou etnia para balizar de base e viés não-autorizados.

29. O que ocorre à minha instituição ao infringir tais medidas contra a clareza e manutenção das manipulações discriminatórias nas rotinas de big-data de terceiros sem a observância estatal? 

Toda transgressão no limite em virtude da adequação sujeitar-se-á, além do crivo sob as penalizações à indenização na ordem cível ou condutas sob as defesas consumeristas, sob a intervenção do próprio estado. No crivo estrito na sanção regimental estipulam-se bloqueios de dados da base, a publicização nociva à imagem corporativa culminando por sua vez nas penalidades financeiras pecuniárias na alíquota percentual imposta à cifra máxima e simples nos tetos limitados em infrações a R$ 50 milhões.

30. Em síntese objetiva, por que a adoção de um Direito à Explicação para algoritmos deve preocupar positivamente qualquer empresário com processos? 

Porque ela não encerra ou ataca seu lucro. A imposição à transparência visa unicamente garantir que nenhuma decisão seja opaca contra as informações da sociedade ao balizar assimetrias entre usuário comum e as gigantes desenvolvedoras, fortalecendo a credibilidade dos clientes de que suas existências e o reflexo em mercado estão alheios a danos injustificados pela máquina conferindo um ecossistema sustentável para a Inteligência da inovação da própria corporação.