在1927年大革命失败后，许崇清认为他的教育思想只有在未来的理想社会才能够实现了，现在是无所作为的。于是他便转向致力于教育理论的研究，想在辩证唯物论的基础上建立教育学的一个新体系。这个时期许崇清侧重马克思主义教育哲学的研究，除了继续对当时的教育方针政策提出改革的意见之外，着重宣传马克思主义教育哲学的观点，并与当时歪曲马克思主义的某些教育与哲学思想展开论战和批判谬误。

　　此外，他对当时我国的文化、科学、教育建设也提出了具体主张。例如，他在《教育方针讨论》（1928年）一文中指出，中国从来的教育只是统治阶级的教育，辛亥革命以后实施新的教育制度，才附加科学技术教育。由于中国受帝国主义侵略，经济落后，科学技术落后，所以上述新教育措施，至今未能彻底推行，于是主张教育要配合孙中山提倡的节制资本、平均地权、发展实业的政治路线，发展科学技术教育，实行学校社会化，并主张不要强行灌注统治者的政治意识于人民，这对反对蒋介石的独裁统治是有进步意义的。

　　1930年，许崇清发表了《农村学校改造的五个要则》，希望通过农村学校的改造，促进农村经济的发展和农村生活的道德化。

　　1931年，许崇清出任中山大学校长。上任后在中山大学文学院增设社会学系，并将理学院改为理工学院，增设土木工程和化学工程两系，还开始兴建新的农学院校舍。“九·一八”事变后，抗日运动兴起。12月，以中大学生为核心的广州学生举行了声势浩大的抗日爱国游行和请愿，全市实行罢读。而许崇清对学生的抗日行动持同情态度，为当时的西南政务委员会所不容。12月中旬，他被以“控制不力”为由，免去校长职务。中山大学的教职员和学生对此极为不满，校董会也表示要许留任。反动派迫于无奈，不得不下令在新校长未到任时，着许崇清暂行代理中大校长，维持校务。1932年2月，许正式离任，只挂广东省政府委员的虚职。

　　1934年历史转入第二次革命战争时期，国民党反动派对中国共产党领导的人民革命力量，不仅进行军事“围剿”，而且进行文化“围剿”。当时以马列主义为指导的革命思想和文化教育在与反动派的激烈斗争中蓬勃发展，对广大青年的影响日益扩大。国民党反动派“黔驴技穷”，不能不走袁世凯的老路，乞灵于尊孔读经。反动派的头面人物陈立夫、张群、何键等都竭力主张青年“读经”，才能纠正“思想”，挽救国运。当时，广东的最高统治者陈济棠计划在大、中、小学推行读经，向学生灌输封建思想。《孝经新沽》教本经西南政务委员会决定出版并交广东政府办理，许崇清受命审查及拟具推行办法。许崇清在最后写成的《孝经新法教本审查意见书》，明确提出反对读经。在起草这份意见书时，他考虑此事关系教育前途，在当时环境下又不便单刀直入反对复古读经，于是用文言文来写，使意思较为含蓄。这份意见书由广东省政府转报西南政务委员会审核，使陈济棠极为难堪。1934年7月15日，意见书由香港《三民主义月刊》第四卷第一期全文公开发表。当刊物传到广州时，文化教育界人士争相阅读，奔走相告，许多学生也议论纷纷，表示不愿再上孝经课。陈济棠闻讯大怒，立即免去许崇清的省政府委员职务，许便离开广东到浙江去了。

　　这期间，许崇清在杭州闲居，继续从事学术研究。

　　1936年，许崇清回广东任教育厅长。在任期间，他除整顿全省中小学校之外，大力开展农村教育。省教育厅规定，各中小学校要进行农村社会教育，对农民介绍科学知识，提高群众文化水平。教育厅与中山大学、江苏教育学院联合开办“花县乡村教育服务实验区”，并先后开办南海平洲、大沥等社会教育实验区。这种做法当时在全国也是少有的。

　　1937年抗日战争爆发，1938年10月广州沦陷，许崇清撤退到粤北。1939年，中山大学迁到云南澄江。1940年4月，许崇清被任命为中山大学代理校长。是年7月，在许崇清主持下，将中大迁回广东北部的乐昌坪石镇。这时，该校经两度长途搬迁，损失严重，物资缺乏，生活艰苦，但学术思想却很活跃。许崇清还聘请了洪琛、李达、王亚南等一批进步学者到校任教，他本人亲自在研究院讲授辩证唯物论与历史唯物论。他们宣传抗日，抨击时弊，呼吁民主，深得广大师生拥护，却引来了当时国民党中央执行委员朱家骅及其一派的不满。他们向国民党中央执委、考试院院长戴季陶密告许崇清“引用异党，危害中大”。教育部长陈立夫便于1941年7月免去许代校长职务。同时任命张云接替校长职务。消息传来，全校震动。中大师生曾展开了“拥邹挽许拒张”运动。（“邹”，指当时在重庆养病的邹鲁校长，许是代校长，“拥邹挽许”的实质是“挽许”。）

　　许崇清离开中山大学后，出任广东省政府委员兼第七战区编纂委员会主任委员。他利用这个合法地位，掩护并依靠该机构中的大批中共地下党员和进步人士，出版《新建设》、《教育新时代》等杂志，宣传抗日、民主等进步思想，介绍马列主义，被进步人士称为“浓黑中几盏灯火”。

　　在学术思想上，这一时期许崇清发表的文章较多，概括起来可分为两方面的内容：第一，关于文化与科学的建设方向；第二，批判主义教育哲学。例如《“学术中国化”与唯物辩证法》（1939年）、《民族自由与文化建设》（1940年）、《中国当前的科学思想》（1941年）、《杜威社会改造思想批判》（1942年）。