Educação tá on!
Ao usar assistentes de Inteligência Artificial Generativa, muitas vezes tendemos a aceitar sem questionamentos as respostas que ela nos fornece. Essa confiança automática é conveniente para nós, porque nos poupa tempo e esforço na busca por informações ou soluções. No entanto, ela esconde um risco considerável: a IA pode parecer segura mesmo quando a afirmação que ela gerou não tem base em nenhum dado ou fato.
Apesar dos avanços da tecnologia, esses sistemas não estão livres de limitações significativas. Entre elas está a possibilidade de a IA gerar respostas elaboradas e convincentes, mas que, na verdade, são incorretas ou até inventadas. Situações assim revelam o quanto a aparência de precisão pode ser enganosa e comprometer de forma séria a confiabilidade do que a IA nos oferece.
O próprio Sam Altman, CEO da OpenAI, empresa que criou o ChatGPT, ressalta esse risco. Entrevistado no primeiro episódio do novo podcast da OpenAI, em junho deste ano, o executivo fez declaração talvez surpreendente, ao dizer que acha interessante que as pessoas confiem tanto na ferramenta: “Essa deveria ser a tecnologia na qual não confiamos tanto assim” (Naysmith, 2025).
Ao falar de confiança, é impossível deixar esse aspecto em segundo plano, pois as consequências vão além de erros pontuais e revelam fragilidades estruturais que afetam nossa capacidade de fazer uma distinção entre informações seguras e respostas ilusórias. É justamente aqui que entra a questão principal: como podemos lidar com sistemas que parecem confiáveis, mas que, na verdade, podem gerar informações falsas e tratar como se fossem verdadeiras? Essa reflexão nos leva diretamente a um fenômeno cada vez mais discutido: as chamadas alucinações da IA.
Um dos maiores problemas no uso de Inteligência Artificial Generativa como fonte de conhecimento reside no fato de que as IAs podem alucinar respostas. A alucinação ocorre quando a IA faz uma afirmação plausível, mas incorreta ou falsa, enquanto demonstra aparente certeza. Conforme analogia proposta em artigo da IBM (2025), a alucinação é semelhante ao que acontece quando um humano enxerga um objeto ou animal nas formas de uma nuvem no céu: a interpretação dos dados identifica uma forma que não existe e a rotula daquele modo.
Recentemente, pesquisadores da OpenAI apontaram o maior culpado pelas alucinações da IA: o método de treinamento dos modelos generativos. Segundo os autores (Kalai et al., 2025), modelos como o GPT são treinados para atingir scores altos em testes nos quais há uma recompensa maior para uma resposta afirmativa próxima da realidade do que ao “admitir” a ignorância.
As alucinações da Inteligência Artificial revelam mais do que uma falha nos modelos: revelam como projetamos nossas próprias expectativas em sistemas que não compartilham da nossa forma de compreender o mundo. Ao acreditar que a máquina “sabe”, ignoramos que ela apenas reproduz padrões estatísticos a partir de dados disponíveis. Essa confusão entre cálculo e compreensão talvez seja a maior dificuldade que temos em perceber os limites reais da IA.
O fenômeno das alucinações também mostra com clareza um aspecto cultural: a tendência de entregar à tecnologia a responsabilidade de influenciar a forma como buscamos, entendemos e validamos as informações que consumimos. Quanto mais nos apoiamos em respostas automáticas, maior o risco de perdermos nossa autonomia para avaliar o que é confiável e o que não é. Nesse sentido, o problema não está apenas no erro da IA, mas em como escolhemos usá-la e na credibilidade que damos às respostas produzidas por ela quando tomamos decisões.
Diante disso, desenvolver soft skills, que ampliam nossa capacidade de crescer profissionalmente e lidar melhor com os desafios do trabalho, é tão essencial quanto aprender a usar a IA de forma responsável. Afinal, são essas habilidades humanas que nos permitem questionar a precisão e a origem dos resultados gerados pela IA.
Agora que entendemos o impacto das alucinações da IA e como elas podem afetar nossa percepção de confiança nas respostas geradas, aqui estão algumas dicas práticas para ajudar você a identificar e evitar essas falhas no seu dia a dia.
O uso criativo e responsável da IA é apenas uma das habilidades que podem alavancar a sua carreira. Felizmente, o SESI pode te ajudar nessa jornada, com diversos cursos para você fazer no seu ritmo. Acesse o site e conheça o nosso portfólio com mais de 40 cursos em diversas áreas, incluindo Inteligência Artificial.
Autores: Joanne de Bittencourt Fraga, Mestra em Gramática e Significação. Analista de conteúdo educacional na Gerência de Portfólio e Serviços Digitais do SESI-RS.
Bruno M. Schwartzhaupt, Doutorando em Psicolinguística. Analista de conteúdo educacional e IA na Gerência de Portfólio e Serviços Digitais do SESI-RS.
Referências:
IBM. What are AI hallucinations? 2025. Disponível em: https://www.ibm.com/think/topics/ai-hallucinations. Acesso em: 09 out. 2025.
KALAI, A. T.; NACHUM, O.; VEMPALA, S. S.; ZHANG, E. Why Language Models Hallucinate. Sep. 4 2025. Disponível em: https://openai.com/index/why-language-models-hallucinate/. Acesso em: 17 set. 2025.
NAYSMITH, C. OpenAI’s Sam Altman shocked ‘people have a high degree of trust in chatgpt’ because ‘it should be the tech that you don’t trust’. Yahoo! Finance. June 22 2025. Disponível em: https://finance.yahoo.com/news/openai-sam-altman-shocked-people-120002679.html. Acesso em: 06 out. 2025.
Educação tá on!