No contexto da IA geracional, representada pelo ChatGPT e modelos similares, surge um desafio crítico relacionado ao viés. Em relação ao significado do termo “biased AI” (IA enviesada) na IA geracional, assinale a afirmativa correta.
- A)Trata da incapacidade dos modelos de IA de aprender com exemplos de texto humano.
Errada, porque IA enviesada não é incapacidade de aprender com texto humano, e sim aprendizado com distorções presentes nos próprios dados.
- B)Refere-se à tendência de modelos de IA geracional em gerar respostas tendenciosas ou discriminatórias com base em dados de treinamento enviesados.
Certa, pois descreve exatamente o viés algorítmico decorrente de dados de treinamento enviesados, que pode gerar respostas discriminatórias ou tendenciosas.
- C)Descreve a capacidade da IA geracional de entender e aplicar princípios éticos em suas respostas.
Errada, porque entender e aplicar princípios éticos seria uma capacidade desejável da IA, não a definição de IA enviesada.
- D)Significa que a IA geracional não é capaz de reconhecer ou interpretar o contexto em que uma pergunta é feita.
Errada, pois isso fala de limitação de compreensão de contexto, e não do problema de viés nos dados e nas respostas.
- E)Refere-se à tendência da IA geracional de gerar respostas excessivamente longas e detalhadas.
Errada, porque tamanho ou detalhamento excessivo da resposta não tem relação com viés; é outra característica totalmente diferente.
Gabarito: B
Na IA generativa, como o ChatGPT, a expressão “biased AI” indica um modelo que pode reproduzir ou amplificar vieses presentes nos dados com os quais foi treinado. Em outras palavras, se o material de treinamento traz estereótipos, desigualdades ou representações distorcidas, a resposta do sistema pode sair contaminada por isso. É o famoso “aprendeu com o mundo real, inclusive com seus defeitos”. Esse viés pode aparecer de várias formas: linguagem discriminatória, associações injustas entre grupos sociais e respostas que favorecem determinadas visões de mundo. Por isso, o tema está muito ligado à qualidade e à diversidade dos dados, além de técnicas de mitigação e revisão humana. Na doutrina de IA ética, isso é tratado como um problema central de justiça, equidade e responsabilidade. O gabarito é a letra B porque ela define corretamente a ideia de IA enviesada: a tendência de gerar respostas tendenciosas ou discriminatórias por influência de dados de treinamento enviesados. Não é uma questão de a IA “não saber” aprender, mas de aprender até demais do que não deveria. Em resumo: o modelo funciona, mas pode repetir preconceitos escondidos na base de treino. Em prova, desconfie das alternativas que trocam viés por incapacidade técnica genérica, falta de contexto ou suposta sabedoria ética. A banca costuma misturar um conceito real de IA com descrições soltas para ver se voce identifica o problema específico.