Este artigo versa sobre a mediação no Ensino de Matemática, ressaltando que a linguagem é um elemento potencializador da mediação nas aulas de matemática. Evidenciamos que o conceito de mediação, vem sendo usado com freqüência de maneira polissêmica e confusa, no entanto assumimos a perspectiva teórica vigotskiana para problematizar epistemologicamente tal conceito. Para Vigotski, todo instrumento psicológico, principalmente a linguagem presente nos diferentes sistemas semióticos se constitui importante por possibilitar o acesso a outras formas de pensamento, transformando funções elementares da psique em atos de consciência. Corroborando com tais argumentos, discutimos os registros de representação semiótica na matemática que segundo Duval (2009) têm um papel imprescindível na aprendizagem de conceitos matemáticos. Concluímos com o argumento que compreender a função e a potencialidade de utilização de variados registros de representação matemática deve ser tarefa da formação docente do professor que ensina matemática baseada na teoria histórico-cultural proposta por Vigotski.