Can Law Ever Be Code? Beyond Google’s Algorithmic Black Box and Towards a Right to Explanation

Abstract

Esta tese tem como objetivo analisar a pertinência jurídica e as formas de instrumentalização do direito à explicação de decisões automatizadas no âmbito do Direito da União Europeia. Sob os prismas da propriedade intelectual, privacidade e proteção de dados, da concorrência e do direito do consumidor, a investigação identifica dispositivos legais de direito primário e secundário europeu, bem como fontes complementares, que corroboram a existência do direito à explicação. Adicionalmente, a proporcionalidade no sopesamento de direitos fundamentais pode corroborar a implementação jurídica e técnica desse direito, para o qual esta tese propõe sugestões práticas e condizentes com a plataforma do Google Search, escolhida como objeto de estudo por meio do qual as análises seriam realizadas. Revisitando a ideia de Lawrence Lessig de que o código (computacional) moldaria o comportamento da sociedade, contemporizado pelas contribuições recentes de Shoshana Zuboff sobre o capitalismo de vigilância, proponho que direito (normas) também pode se traduzir em código (de programação). Muitos passos nessa direção já foram dados e continuam a ser nas legislações propostas recentemente. Leis robustas nas áreas de proteção de dados, concorrência e direito do consumidor subsidiam atualmente reclamações por explicação que podem ser apresentadas a diferentes órgãos administrativos e serem examinadas por tribunais europeus. Autoridades concorrenciais já provaram que podem haver consequências reais na reformulação de algumas dessas práticas no setor privado, como se viu nos casos anteriores da Google no âmbito da Comissão Europeia. Uma vez que existe uma grande assimetria de informações entre as plataformas de tomada de decisão automatizada e seus usuários, ao divulgar uma parte do funcionamento interno de um algoritmo (propósitos, raciocínios, entradas e parâmetros decisórios levados em consideração etc.), de forma adequada ao usuário médio para o qual a explicação se destina, é possível fazer cumprir melhor o objetivo de bem-estar do consumidor e salvaguardar padrões concorrenciais. A essência deste estudo reconhece a importância de um direito à explicação como base para maior governança algorítmica, especialmente no que diz respeito ao mecanismo de pesquisa do Google e seus aplicativos acessórios.