Autor: Tony Bates
Ler na fonte | (Traduzido do inglês, com supressões)
O que é diferente nos modelos de linguagem generativos
Os modelos de linguagem generativos, como o ChatGPT, representam um grande avanço em relação às aplicações anteriores de IA na educação, pois podem transformar os resultados de uma pesquisa geral na Internet num relatório abrangente com uma linguagem tão fluente que parece ter sido escrita por um humano. No entanto, é importante compreender como o ChatGPT e outros modelos similares realizam isso.
O processo básico consiste em calcular a probabilidade da próxima palavra numa frase, com base na pergunta de entrada. Para calcular essa probabilidade, o ChatGPT pesquisa toda a Internet para identificar as combinações e sequências de palavras mais comuns sobre um determinado tópico.
Pontos fortes e fracos do ChatGPT
Com uma base de dados suficientemente grande de frases completas, ao pesquisar tudo o que possivelmente está disponível na Internet, o resultado é surpreendentemente preciso em resumir toda a escrita passada sobre um tópico. Note que o processo é puramente mecanicista – não há “compreensão” ou processamento conceptual envolvido.
No entanto, quanto mais “original” for um tópico, menos válida se torna a resposta do ChatGPT, porque os “novos” tópicos têm menos palavras sobre as quais basear a pesquisa. (O ChatGPT admite que pode pesquisar materiais publicados apenas até dois anos antes da sua resposta.)
Embora muitas vezes pareça abrangente, as respostas do ChatGPT frequentemente carecem de “nuance”, porque as declarações “minoritárias” (ou seja, declarações que aparecem menos frequentemente) frequentemente se perdem ou são ignoradas devido à sua menor probabilidade; como resultado, o ChatGPT é excelente para lidar com questões em que há um amplo acordo numa ampla gama de fontes, ou onde há muita coisa escrita sobre perspectivas concorrentes, mas não tão bom em captar contribuições alternativas isoladas, mas talvez importantes, para um tópico.
O ChatGPT não fornece descrições precisas das fontes quando solicitado (provavelmente para evitar acusações de violação de direitos de autor) e, de qualquer forma, recorre a toda a Internet, não apenas às principais (ou mais confiáveis) fontes. É difícil então saber quão confiável é a resposta sumária, se ela é baseada em revistas académicas altamente respeitáveis ou apenas em conversas gerais no Facebook.
Como acontece com todas as ferramentas de IA, os seus algoritmos não são tornados públicos, pelo que é impossível saber se as respostas de revistas académicas são valorizadas mais do que comentários do Facebook, por exemplo. É possível “manipular” o sistema “saturando” um tópico (ou seja, através das redes sociais), de modo a que possa amplificar concepções populares, mas imprecisas, sobre um tópico. Portanto, é difícil determinar a precisão de uma resposta a menos que já se seja um especialista no tópico. Fazer as perguntas certas e seguir com mais perguntas é essencial para resultados válidos.
Implicações para universidades e faculdades
Os estudantes (e alguns académicos) vão usar a IA e apresentar o resultado como trabalho próprio.
- Pode ser muito útil ao permitir aos estudantes obter uma visão rápida e, na maioria dos casos, precisa de um tópico que tenha tido ampla cobertura na Internet.
- Pode ser muito útil para a pesquisa académica, ao fornecer uma visão rápida da literatura.
- Pode ser muito útil para desenvolver currículos “padrão” para áreas de estudo bem pesquisadas ou bem estabelecidas.
Vai obrigar a repensar as práticas de avaliação.
A IA substitui a necessidade de memorização, recordação e até mesmo compreensão geral de um tópico. Os educadores devem partir do pressuposto de que os estudantes usarão a IA para estes fins (assim como as pessoas fora das universidades e faculdades). Isso libertará os educadores para se concentrarem nas áreas em que a IA (até agora) é menos útil, nomeadamente o pensamento crítico e original.
A IA não é apenas a mais recente tecnologia superestimada. Não vai desaparecer e, com o tempo, tornar-se-á mais poderosa, especialmente quando os programas de IA incorporem auto-aprendizagem (ou, mais precisamente, auto-correção) e algoritmos baseados em cognição (ou seja, algoritmos que espelham os processos de pensamento humano).
No entanto, ‘gerir’ a IA será difícil, principalmente devido à sua falta de transparência. Por razões éticas óbvias, na educação é absolutamente essencial saber como a IA chega às suas respostas. Isso significa tornar os algoritmos – ou pelo menos o processo geral que está a ser utilizado – transparentes.
O que devem fazer as universidades e faculdades?
- Utilizar IA – mas de forma inteligente.
Existem três áreas separadas onde a IA será útil, e cada uma delas exigirá uma resposta diferente:
- ensino e aprendizagem
- admissões e outros serviços para os estudantes
- administração.
2. Ensino e aprendizagem.
Esta é a área mais problemática em termos de mudança e gestão da aprendizagem:
Desenvolver especialistas em IA para o ensino e aprendizagem: compreender como a tecnologia funciona e as suas vantagens e desvantagens para o ensino e a aprendizagem.
Essa expertise precisa combinar pedagogia e habilidades em TI. Incorpore esta expertise nos Centros de Ensino, Aprendizagem e Tecnologia e crie um programa para formar o corpo docente.
Não se pode gerir algo que não se compreende.
Abordar primeiro as questões de avaliação. Isso faz-se melhor evitando avaliações baseadas na enumeração de factos, ideias, princípios que podem ser escritos.
A IA fará isso melhor do que a maioria dos humanos.
Coloque questões de atribuição que exijam originalidade por parte do estudante, como resolver problemas fora do comum ou únicos e/ou recorrer à experiência pessoal, etc. Isso significa focar-se em objetivos educativos de nível superior, como avaliação, pensamento crítico e pensamento criativo (que afinal é o que as universidades deveriam proporcionar).
Dê mais ênfase à avaliação oral e contínua do que a testes escritos e sumativos, para que os educadores possam acompanhar o desenvolvimento dos estudantes individualmente.
Incorporar IA no ensino.
Incentive os estudantes a utilizar (e identificar) a IA para fazer pesquisas em projetos, e depois peça-lhes que indiquem as vantagens e desvantagens da resposta da IA.
O que acrescentariam ou mudariam na resposta da IA?
Isso os preparará melhor para usar ferramentas de IA quando entrarem no mercado de trabalho.
3. Admissões e serviços aos estudantes
A IA, especialmente quando combinada com a análise de aprendizagem, pode ser muito útil para ajudar a identificar estudantes que precisam de ajuda e para a escolha de disciplinas para os estudantes, mas tenha muito cuidado ao usar a IA. Teste o viés inerente nas ferramentas e corrija-o. Tenha um comité de revisão interna para as políticas de admissão que monitorize o uso da IA. Repito, alguém no Gabinete de Registo e/ou nos Serviços aos Estudantes precisa de ser um especialista em IA e nas ferramentas de IA que poderão ser úteis (ou perigosas) para estudantes e administradores.
- Áreas administrativas
A IA é / será extremamente valiosa e útil para trabalho financeiro, legal e de marketing e poderá poupar dinheiro substancial ao substituir trabalhadores humanos, libertando assim mais recursos para o ensino, a aprendizagem e a pesquisa. No entanto, é necessário ter um especialista em IA a bordo que compreenda tanto o potencial quanto os limites da IA nestes campos.
Conclusão
A IA não vai desaparecer e tornar-se-á ainda mais poderosa com o tempo. A administração e os professores precisam compreender como e por que a IA pode ser valiosa e quais são as suas limitações. No entanto, tornar-se confortável com a IA requer uma curva de aprendizagem íngreme. As instituições não devem deixar isso ao acaso. Deve haver uma abordagem sistemática para fornecer formação em IA para aqueles que dela necessitam, e deve haver uma estrutura clara (como comités) que envolva todas as partes interessadas, para que as decisões sobre o uso de IA sejam compreendidas e aceites.
Isso pode assumir a forma de comité especial, mas, como acontece com todas as novas tecnologias importantes, as decisões precisam ser tomadas no nível certo pelas pessoas certas. O corpo docente e os designers instrucionais, em consulta com os estudantes, devem decidir sobre o seu uso para o ensino e a aprendizagem.
Mas ignorar a IA e esperar que desapareça não é uma opção.
Referências
Não consigo fornecer um conjunto completo de referências sobre este tópico, apenas aquelas mencionadas neste artigo.
Bates, T, Cobo, C., Mariño, O. and Wheeler, S. (2020) Can artificial intelligence transform higher education? International Journal of Technology in Higher Education, Vol. 17, No. 42
Zawacki-Richter, O., Marin, V., Bond, M. and Gouverneur, F. (2019) Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Technology in Higher Education, Vol. 16, No. 39
Para um artigo sobre design de avaliação, consulte:
Hendricks, C. (2024) Assignment and assessment design using generative AI A.I. in Teaching and learning, Centre for Teaching, Learning and Technology, University of British Columbia
TIC, Educação e Web 