在1927年大革命失敗后，許崇清認為他的教育思想只有在未來的理想社會才能夠實現(xiàn)了，現(xiàn)在是無所作為的。于是他便轉向致力于教育理論的研究，想在辯證唯物論的基礎上建立教育學的一個新體系。這個時期許崇清側重馬克思主義教育哲學的研究，除了繼續(xù)對當時的教育方針政策提出改革的意見之外，著重宣傳馬克思主義教育哲學的觀點，并與當時歪曲馬克思主義的某些教育與哲學思想展開論戰(zhàn)和批判謬誤。

　　此外，他對當時我國的文化、科學、教育建設也提出了具體主張。例如，他在《教育方針討論》（1928年）一文中指出，中國從來的教育只是統(tǒng)治階級的教育，辛亥革命以后實施新的教育制度，才附加科學技術教育。由于中國受帝國主義侵略，經濟落后，科學技術落后，所以上述新教育措施，至今未能徹底推行，于是主張教育要配合孫中山提倡的節(jié)制資本、平均地權、發(fā)展實業(yè)的政治路線，發(fā)展科學技術教育，實行學校社會化，并主張不要強行灌注統(tǒng)治者的政治意識于人民，這對反對蔣介石的獨裁統(tǒng)治是有進步意義的。

　　1930年，許崇清發(fā)表了《農村學校改造的五個要則》，希望通過農村學校的改造，促進農村經濟的發(fā)展和農村生活的道德化。

　　1931年，許崇清出任中山大學校長。上任后在中山大學文學院增設社會學系，并將理學院改為理工學院，增設土木工程和化學工程兩系，還開始興建新的農學院校舍?！熬拧ひ话恕笔伦兒?，抗日運動興起。12月，以中大學生為核心的廣州學生舉行了聲勢浩大的抗日愛國游行和請愿，全市實行罷讀。而許崇清對學生的抗日行動持同情態(tài)度，為當時的西南政務委員會所不容。12月中旬，他被以“控制不力”為由，免去校長職務。中山大學的教職員和學生對此極為不滿，校董會也表示要許留任。反動派迫于無奈，不得不下令在新校長未到任時，著許崇清暫行代理中大校長，維持校務。1932年2月，許正式離任，只掛廣東省政府委員的虛職。

　　1934年歷史轉入第二次革命戰(zhàn)爭時期，國民黨反動派對中國共產黨領導的人民革命力量，不僅進行軍事“圍剿”，而且進行文化“圍剿”。當時以馬列主義為指導的革命思想和文化教育在與反動派的激烈斗爭中蓬勃發(fā)展，對廣大青年的影響日益擴大。國民黨反動派“黔驢技窮”，不能不走袁世凱的老路，乞靈于尊孔讀經。反動派的頭面人物陳立夫、張群、何鍵等都竭力主張青年“讀經”，才能糾正“思想”，挽救國運。當時，廣東的最高統(tǒng)治者陳濟棠計劃在大、中、小學推行讀經，向學生灌輸封建思想?！缎⒔浶鹿痢方瘫窘浳髂险瘴瘑T會決定出版并交廣東政府辦理，許崇清受命審查及擬具推行辦法。許崇清在最后寫成的《孝經新法教本審查意見書》，明確提出反對讀經。在起草這份意見書時，他考慮此事關系教育前途，在當時環(huán)境下又不便單刀直入反對復古讀經，于是用文言文來寫，使意思較為含蓄。這份意見書由廣東省政府轉報西南政務委員會審核，使陳濟棠極為難堪。1934年7月15日，意見書由香港《三民主義月刊》第四卷第一期全文公開發(fā)表。當刊物傳到廣州時，文化教育界人士爭相閱讀，奔走相告，許多學生也議論紛紛，表示不愿再上孝經課。陳濟棠聞訊大怒，立即免去許崇清的省政府委員職務，許便離開廣東到浙江去了。

　　這期間，許崇清在杭州閑居，繼續(xù)從事學術研究。

　　1936年，許崇清回廣東任教育廳長。在任期間，他除整頓全省中小學校之外，大力開展農村教育。省教育廳規(guī)定，各中小學校要進行農村社會教育，對農民介紹科學知識，提高群眾文化水平。教育廳與中山大學、江蘇教育學院聯(lián)合開辦“花縣鄉(xiāng)村教育服務實驗區(qū)”，并先后開辦南海平洲、大瀝等社會教育實驗區(qū)。這種做法當時在全國也是少有的。

　　1937年抗日戰(zhàn)爭爆發(fā)，1938年10月廣州淪陷，許崇清撤退到粵北。1939年，中山大學遷到云南澄江。1940年4月，許崇清被任命為中山大學代理校長。是年7月，在許崇清主持下，將中大遷回廣東北部的樂昌坪石鎮(zhèn)。這時，該校經兩度長途搬遷，損失嚴重，物資缺乏，生活艱苦，但學術思想?yún)s很活躍。許崇清還聘請了洪琛、李達、王亞南等一批進步學者到校任教，他本人親自在研究院講授辯證唯物論與歷史唯物論。他們宣傳抗日，抨擊時弊，呼吁民主，深得廣大師生擁護，卻引來了當時國民黨中央執(zhí)行委員朱家驊及其一派的不滿。他們向國民黨中央執(zhí)委、考試院院長戴季陶密告許崇清“引用異黨，危害中大”。教育部長陳立夫便于1941年7月免去許代校長職務。同時任命張云接替校長職務。消息傳來，全校震動。中大師生曾展開了“擁鄒挽許拒張”運動。（“鄒”，指當時在重慶養(yǎng)病的鄒魯校長，許是代校長，“擁鄒挽許”的實質是“挽許”。）

　　許崇清離開中山大學后，出任廣東省政府委員兼第七戰(zhàn)區(qū)編纂委員會主任委員。他利用這個合法地位，掩護并依靠該機構中的大批中共地下黨員和進步人士，出版《新建設》、《教育新時代》等雜志，宣傳抗日、民主等進步思想，介紹馬列主義，被進步人士稱為“濃黑中幾盞燈火”。

　　在學術思想上，這一時期許崇清發(fā)表的文章較多，概括起來可分為兩方面的內容：第一，關于文化與科學的建設方向；第二，批判主義教育哲學。例如《“學術中國化”與唯物辯證法》（1939年）、《民族自由與文化建設》（1940年）、《中國當前的科學思想》（1941年）、《杜威社會改造思想批判》（1942年）。