早在数学教育现代化运动初期，就有人提出反对意见。美国应用数学家克莱因在1962年就批评新数学只重视数学的内容，而忽视数学的方法；教学的对象只是少数学生，培养尖子；急于搞抽象化，强调演绎推理等。七十年代，各国小学数学教材改革经过了一段时间的试验，逐渐暴露出一些问题。主要是教师难教，学生难学，负担重，成绩下降。典型的例子如：小学生懂得6×7=7×6，却不知道积是42。教师、家长以及社会各界纷纷对新数学提出批评或反对的意见。1973年克莱因又写了一篇题为《庄尼为什么不会加？》的小册子，指责新数学是失败的。归纳各方面的主要意见是：第一，只考虑数学本身的发展和需要，片面强调纯理论的抽象的概念，忽视社会的实际应用；第二，强调理解，忽视基本技能的训练；第三，只适用一般水平以上的学生，培养少数有才能的尖子，忽视面向全体学生。随后在美国以及其他一些国家掀起一场“回到基础”运动，要求取消新数学，主张小学数学要着重基本计算技能的训练。但是也有反对的意见。1975年美国数学教育全国咨询委员会在一篇题为《对数学教育总的看法和分析》的报告中指出，数学成绩下降是否大部分归咎于“新数学”值得怀疑，因为改革运动的建议只有很少一部分在课堂上实行，而且也没有充分重视教师培训。1977年美国《洛杉矶时报》发表一篇文章也谈到“尽管新数学遭到批评，但是很少有人认为它完全失败。目前的课本又将重点放在基本技巧上，但仍旧含有新数学中介绍的许多概念。”1980年1月召开的关于数学课程变化的国际会议所发表的综合报告中也指出，要预测二十年来数学教育改革的永久效果还为时过早。美国全国数学教师协会的八十年代《行动计划》中，批评了“回到基础”运动，认为想把数学能力放在低水平上，不能适应新的变化的需要。在苏联争论也很厉害，有些数学家提出用集合论解释数学概念没有必要。指出这样把教材人为地复杂化，使学生对知识只是形式主义的理解，小学一年级学习用方程解应用题也是形式地接受。但是也有人认为，四五年级引入集合，带变量的命题和语句，仅仅是使数学教学的某些语言标准化、明确化。也有一些教师反对走回头路。近几年，争论虽基本平息，但并没有取得完全一致的看法。1982年美国有一篇文章说：“过去两三年虽然有达到均势的趋向，但这并不意味着达到观点一致。”