Sabemos que os famosos chats large language model (LLM) como ChatGPT, DeepSeek, Copilot, entre outros, estão no hype e muitas pessoas utilizam eles no cotidiano. Gostaria de trazer algumas reflexões sobre o uso dessas ferramentas, principalmente na aprendizagem de programação.

Qual o problema de utilizar esse tipo de ferramenta?

Primeiro ponto que trago aqui é sobre o raciocínio lógico. Tive a experiência de ser monitora de uma turma de introdução a programação na faculdade, onde acompanhei de perto o progresso dos alunos, porém vi muito o uso de LLMs para resolução de exercícios básicos de programação.

Um exemplo: A pessoa que é aluna recebe um problema a ser resolvido, ela deveria interpretar esse problema, desenvolver um pensamento lógico para resolvê-lo aplicando no código e assim exercitar os conceitos básicos como estruturação do código, uso de condicionais e repetição. Mas o que acontecia em vez disso era a pessoa usar o LLM, passando o problema como prompt e copiando a resposta, muitas vezes sem nem ler o que estava no código.

Os LLMs são treinadas com base em conteúdos existentes e geram textos/códigos o mais próximo daquilo que eles conhecem. Para problemas básicos como exercícios de faculdade, isso pode funcionar, pois não são tão complexos, mas se a pessoa não desenvolve seu próprio modo de pensar para resolver problemas básicos, como será ao chegar no mercado de trabalho e ter que aplicar seus conhecimentos em projetos mais complexos?

Outro ponto é não saber exatamente como os LLMs funcionam. A maioria dos LLMs populares usam os próprios prompts como parte de seu treinamento, ou seja, o que a pessoa envia para ele também é usado na sua base de dados para treiná-lo, assim como a avaliação que a pessoa pode fazer sobre as respostas obtidas. Quando está lidando com códigos privados, é muito arriscado usar esse tipo de ferramenta, podendo deixar expostas informações sensíveis como regras de negócios da empresa, chaves de acesso, etc.

Mais um ponto a ser refletido é sobre o que está sendo gerado e executado. Uma pessoa que está em processo de aprendizagem, ainda não sabe identificar se aquele código que foi gerado é seguro para ser executado. Imagine que o prompt para a LLM é um exercício um pouco mais complexo, onde o código gerado pode conter vários pacotes prontos, se a pessoa não os conhecem e executa esse código sem cuidado, pode estar executando códigos maliciosos, colocando em risco tanto ambientes pessoais quando empresariais. Lembrando que as LLMs são treinadas com todo tipo conteúdos, sem diferenciar o que é verdadeiro do que é falso, o que foi escrito com boas ou más intenções e inclusive aqueles conteúdos que não deveriam ser utilizado em treinamentos, violando leis de copyright ou sem consentimento de autores / editores.

Já pensou nesses pontos? Tem mais algo para acrescentar?