Este estudo consiste num relato de experiência de estudantes de um Programa de Mestrado em Educação Matemática da Universidade Estadual da Paraíba, com atividades desenvolvidas nos meses de fevereiro e março de 2016 em uma Escola de Ensino Médio do Estado do Ceará, para socializar uma experiência com uso da metodologia da resolução de problema envolvendo teoria dos números em uma sala de aula de terceiro ano, com o objetivo de identificar as dificuldades e estratégias dos alunos nas atividades propostas. O trabalho foi realizado em três fases: planejamento, preparação da turma para resolver atividades com resolução de problemas e por fim, aplicação de quatro atividades. Foram observadas dificuldades de leitura e interpretação dos problemas e poucas estratégias utilizadas na resolução dos mesmos. Tornou-se evidente a necessidade de utilização de metodologias como a resolução de problemas que possibilitem o desenvolvimento do raciocínio matemático, ampliando as habilidades cognitivas dos alunos.