O Senado aprovou nesta semana o marco legal da inteligência artificial [IA]. O projeto de lei (PL) 2338/2023 define as regras para desenvolvimento, produção e fiscalização da tecnologia no Brasil. (...) A lei brasileira tem alguns pontos pioneiros, como a exigência da transparência algorítmica e a explicabilidade. As desenvolvedoras de IA de alto risco serão obrigadas a explicar como e porque a IA tomou uma decisão. LIRA, Camila de. Senado aprova marco regulatório da inteligência artificial; entenda. Fast Company Brasil, São Paulo, 14 dez. 2024. Disponível em: https://fastcompanybrasil.com/ia/senado-aprova-marco-regulatorio-da-inteligencia-artificial-entenda/. Acesso em: 6 jan. 2025. A exigência contida no projeto de lei permite que o usuário tenha uma relação mais consciente com os serviços de IA. Segundo o trecho apresentado, assinale a opção que apresenta, corretamente, o significado de transparência algorítmica.
- A)Os usuários serão avisados sempre que estiverem interagindo com uma IA.
Errada: avisar que a pessoa está interagindo com IA é um dever de identificação, mas não é o sentido de transparência algorítmica.
- B)As empresas precisam explicar os processos através dos quais a IA chega a seus resultados.
Certa: transparência algorítmica envolve explicar como o sistema processa dados e chega aos resultados.
- C)Os algoritmos de IA devem ser completamente abertos para qualquer pessoa usar e acessar.
Errada: abrir totalmente os algoritmos ao público não é exigência geral de transparência e pode esbarrar em sigilo comercial e segurança.
- D)As empresas devem divulgar os dados usados para treinar os sistemas de IA.
Errada: a divulgação dos dados de treinamento pode ajudar na auditoria, mas não define, sozinha, transparência algorítmica.
- E)Os sistemas de IA precisam ser aprovados pelo governo antes de funcionar.
Errada: aprovação prévia pelo governo é lógica de licenciamento/regulação, não o significado de transparência algorítmica.
Gabarito: B
Transparência algorítmica é a ideia de que a lógica por trás de uma decisão automatizada não deve ficar no modo “caixa-preta”. Em outras palavras, quem usa ou é afetado por um sistema de IA precisa ter condições de entender, ao menos em linhas gerais, como aquela tecnologia chegou ao resultado apresentado. Isso é importante porque decisões automáticas podem influenciar crédito, seleção de currículos, moderação de conteúdo, diagnósticos e muito mais. No trecho, o destaque está justamente na exigência de explicabilidade: a desenvolvedora de IA de alto risco deve explicar como e por que a IA tomou determinada decisão. Perceba que isso não significa abrir tudo ao público nem liberar o código para qualquer pessoa mexer. Significa dar clareza, rastreabilidade e justificativa sobre o funcionamento do sistema. Por isso, a alternativa B está correta: ela traduz com precisão a noção de transparência algorítmica, isto é, a empresa precisa explicar os processos pelos quais a IA chega aos seus resultados. É a lógica do “não me diga só o resultado, me mostre o caminho”. Esse tema conversa com princípios que aparecem no debate regulatório de IA e também com a proteção do consumidor e do titular de dados, especialmente quando há decisões automatizadas relevantes. No marco legal citado no enunciado, a explicabilidade aparece como exigência para sistemas de alto risco, reforçando a necessidade de controle e compreensão humana sobre a tecnologia.