{"subject_id":"3a3cc48d0099815580bad87b0334ccd3","topico":"Governança e ética: explicabilidade (SHAP, LIME), privacidade, adversarial, fairness","stems":["Um auditor pretende utilizar inteligência artificial generativa (IAG) em dois momentos de uma auditoria operacional realizada em um programa social destinado a comunidades quilombolas: na análise de informações obtidas em diferentes fontes e na redação dos achados de auditoria. Considerando essa situação hipotética, julgue os itens seguintes.","Julgue os itens que se seguem, relativos a ciência de dados e inteligência artificial (IA).","Em relação à privacidade em governança e ética de inteligência artificial, julgue o item seguinte."],"questions":[{"id":"471a665c34b0","number":98,"stem":0,"statement":"No desenvolvimento dos achados de auditoria, a partir dos resultados da análise das informações feita com auxílio de IAG, o auditor deve atentar à possibilidade de ocorrência do viés de exclusão, que ocorrerá caso as comunidades quilombolas tenham sido sub-representadas ou excluídas do conjunto de dados utilizado no treinamento da IAG.","answer":"C","source":{"slug":"TCE_RS_25","ano":2025},"explanation":{"verdict_reason":"Viés de exclusão é o que surge quando um grupo fica de fora do conjunto de treinamento ou nele aparece sub-representado, muitas vezes por descarte considerado inofensivo na preparação dos dados. O modelo passa a generalizar a partir de uma população que não contém aquele grupo, e a saída a respeito dele fica sistematicamente pior ou silenciosa. Em auditoria de programa destinado a comunidades quilombolas, é exatamente o risco a considerar antes de converter a análise em achado.","distortion_type":"correto","distorted_span":null,"corrected_statement":null,"concept":"Viés de exclusão: grupo ausente ou sub-representado no treino","citation":null,"trap_note":"O nome do viés segue o ponto da cadeia em que ele entrou: seleção na amostra, exclusão na ausência de um grupo, rótulo no julgamento humano aprendido, automação na confiança excessiva de quem usa a saída."}},{"id":"f45dc12ae48f","number":99,"stem":0,"statement":"O uso de IAG contribui para a imparcialidade do relatório de auditoria, pois, desde que treinadas com grandes volumes de dados, as ferramentas de inteligência artificial generativa não reproduzem tendências humanas discriminatórias, como racismo.","answer":"E","source":{"slug":"TCE_RS_25","ano":2025},"explanation":{"verdict_reason":"A ferramenta generativa aprende de texto produzido por pessoas e reproduz as tendências que ali estão; ampliar o volume de treinamento amplia também a base que contém o preconceito, em vez de diluí-lo. Tamanho de corpus não confere imparcialidade, e é justamente por isso que a conferência humana do achado permanece obrigatória. O item inventa uma causalidade entre volume de dados e ausência de viés discriminatório.","distortion_type":"relacao_causal","distorted_span":"desde que treinadas com grandes volumes de dados, as ferramentas de inteligência artificial generativa não reproduzem tendências humanas discriminatórias","corrected_statement":"O uso de IAG não assegura a imparcialidade do relatório de auditoria, pois, ainda que treinadas com grandes volumes de dados, as ferramentas de inteligência artificial generativa podem reproduzir tendências humanas discriminatórias, como racismo.","concept":"Volume de treinamento não neutraliza viés","citation":null,"trap_note":"Procure a condição de salvação, do tipo desde que, bastando que ou pois, que liga uma propriedade técnica a uma virtude moral da ferramenta. É nela que a causalidade foi inventada."}},{"id":"39a4391d0a11","number":104,"stem":1,"statement":"Viés algorítmico pode ocorrer quando os dados utilizados no treinamento de um sistema de IA refletem desigualdades sociais, o que pode resultar em decisões discriminatórias automatizadas.","answer":"C","source":{"slug":"STM_25","ano":2025},"explanation":{"verdict_reason":"O modelo aprende as regularidades do conjunto de treinamento, inclusive as que apenas registram desigualdades já existentes no mundo; ao decidir, devolve essa regularidade como critério, em escala e com aparência de objetividade. É a definição corrente de viés algorítmico, e a não discriminação é princípio expresso do tratamento de dados. A afirmação descreve a cadeia dado, modelo e decisão sem exagerar o alcance.","distortion_type":"correto","distorted_span":null,"corrected_statement":null,"concept":"Viés algorítmico: dado enviesado vira decisão discriminatória","citation":"Lei n.º 13.709/2018 (LGPD), art. 6.º, IX","trap_note":"Item que localiza o viés nos dados e mantém o risco e a responsabilidade com o humano tende a ser Certo; o que promete neutralidade ou imparcialidade à ferramenta tende a ser Errado."}},{"id":"2e5676309882","number":64,"stem":2,"statement":"De acordo com os princípios de governança e ética relativos à inteligência artificial, a opacidade sobre os algoritmos é encorajada como prática padrão para garantir a eficácia dos sistemas.","answer":"E","source":{"slug":"BCB_24","ano":2023},"explanation":{"verdict_reason":"Transparência e explicabilidade estão entre os princípios centrais de governança e ética de inteligência artificial: decisão automatizada que afeta pessoas precisa ter critério informável e passível de revisão, e a LGPD obriga o controlador a fornecer informações claras sobre os critérios e os procedimentos da decisão, ressalvado o segredo comercial. O item toma o oposto do princípio e o apresenta como prática padrão. A justificativa também não se sustenta: ocultar o critério não aumenta a eficácia do sistema.","distortion_type":"inversao","distorted_span":"a opacidade sobre os algoritmos é encorajada como prática padrão","corrected_statement":"De acordo com os princípios de governança e ética relativos à inteligência artificial, a transparência sobre os algoritmos é encorajada como prática padrão para garantir a confiabilidade dos sistemas.","concept":"Transparência é o princípio; opacidade não é política","citation":"Lei n.º 13.709/2018 (LGPD), art. 20, § 1.º","trap_note":"Princípio invertido costuma vir com finalidade inventada logo atrás. Quando o item justifica sigilo por ganho de eficácia ou de desempenho, o erro está no par princípio mais finalidade, e não no meio da frase."}}]}