A presente submissão tem por objeto a análise de dois pontos importantes do Guia: a suposta obrigatoriedade de revisão humana e a delimitação do conceito de supervisão humana. O tratamento conferido a esses temas conforme está posto pode gerar insegurança interpretativa, seja por sugerir deveres jurídicos não expressamente previstos no ordenamento brasileiro, seja por aproximar indevidamente institutos que possuem funções distintas.

No item II, examina-se a suposta existência de um dever de revisão humana de decisões automatizadas. Busca-se demonstrar que, embora a LGPD assegure o direito à revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais, não há, no estado atual do direito brasileiro, imposição expressa de que essa revisão seja necessariamente conduzida por pessoa natural.

No item III, analisa-se o conceito de supervisão humana no ciclo de vida dos sistemas de inteligência artificial (IA), indicando que o Guia parece, em determinadas passagens, confundir esse instituto com a lógica de revisão humana. Procura-se evidenciar que a supervisão não se confunde com acompanhamento direto e contínuo de outputs, eis que se insere em uma lógica mais ampla de governança, monitoramento e gestão de riscos, proporcional ao contexto de uso e às capacidades dos agentes envolvidos.