Neste artigo, objetivamos pôr luz sob algumas implicações da utilização de pilares tecnocêntricos no contexto educacional e a consequente utilização de dados apreendidos para geração de padrões, rastreamento de comportamentos, bem como a inferência de estados cognitivos e afetivos pela inteligência artificial, segundo um novo ethos condizente às dinâmicas do século XXI. A partir da explanação e problematização de alguns conceitos como Big Data (Jindal e Borah, 2013, Ferreira, 2013; Davenport,2014;), Ambientes Virtuais de Aprendizagem, Learning Analytics (Chatti et al., 2012; Dias, 2017, Triantafyllou et al., 2018) e Computação Afetiva (Vicari, 2018), podemos problematizar a dinâmica de experimentos e correlações para extrair informações dos estudantes. Quando se concerne à formação de bancos de dados, as estratégias de personalização de aprendizagem são sempre colocadas em pauta como vantagens da aplicabilidade. O interesse ainda mais direcionado ao entendimento desses padrões de comportamentos e traços psicológicos acompanham uma dinâmica de ampla captura e utilização de informações psíquicas e emocionais extraídas dos dados de usuários nas plataformas digitais (Bentes, 2019). Para a pesquisadora Fernanda Bruno (2018) trata-se de uma economia psíquica dos algoritmos, em que os dados psicossociais e emocionais não interessam tanto pelo perfil psicológico individual em si, mas por permitir estabelecer correlações entre os perfis psicológicos e os padrões de atividades dos usuários. Desse modo, sob à ótica do capitalismo de vigilância (2018), debatemos as consequências da naturalização do uso de metadados comportamentais, como a utilização de sensores fisiológicos, reconhecimento de expressões faciais, análise de voz e semântica, em Sistemas Tutoriais Afetivos. Objetivamos ampliar o debate em torno da ética, privacidade e de controle sociotécnicos em sistemas de inteligência artificial extremamente opacos em seu funcionamento, mas que são cada vez mais presentes em plataformas de aprendizagem.