建國初期，語言文字比較混亂，葉聖陶奉命編集文字改革的資料，供毛澤東等中央領導人參閱。為了促使漢語規範化，葉聖陶和胡喬木一起於1951年3月4日會見語言學家呂叔湘，請他在《人民日報》刊載文章，談文法，供幹部學習。1951年6月6日，《人民日報》接受葉聖陶和胡喬木的建議，發表了題為《正確地使用祖國的語言，為語言的純潔和健康而鬥爭》的社論，並從同日起連載呂叔湘、朱德熙的《語法修辭講話》。《語法修辭講話》連載結束後，葉聖陶寫了《從〈語法修辭講話〉談起》一文，對《語法修辭講話》作了中肯的評析，並且提出了對語法的建設性意見：「語法體系不一，術語分歧的現象雖不能用強迫命令『定於一』，但是希望能充分協商，先提出一個在教學上可能試用的綱領來。」從1950年代起，葉聖陶為國家的一些文稿把「文字」關，包括《憲法》草稿的文字，就是他參與斟酌，作文字修正。1950年代出版的《史太林全集》，譯稿也是經他修飾。中央部委的一些公文（稿）也請他批改，批改後發回作為範文示範。

正確使用標點符號，也是語言規範化的一個組成部分。1951年7月17日，葉聖陶開始寫《標點符號用法》一文。9月26日，《標點符號用法》以政務院出版總署的名義在《人民日報》發表，《光明日報》以及《語文學習》和《語文教學》轉載。《標點符號用法》對句號、逗號、頓號等常用標點符號的定義和書寫格式作了明確界定。規範標點符號，有益於文章跟口語的一致，強化了根據語言來使用標點符號的意識。葉聖陶在日記中說：「《標點符號用法》是他做的最滿意的一件工作」。雖說《標點符號用法》中有些見解也還值得商榷，但它對於標點符號使用的規範化、糾正當時標點符號使用得相當混亂的現象，提醒人們注意語言和應用標點符號的關係等諸多方面都有開拓性的貢獻。

1949年8月至10月中旬，葉聖陶主持擬定了《小學課程標準總綱草案》和《中學課程標準總綱草案》，以及《小學語文科課程標準》（草稿）和《中學語文科課程標準》（草稿），「總綱」和「標準」總結了「五四」以來中國教材建設的經驗（包括解放區的經驗），對解放後的語文教學和教材編寫工作有重大影響。《中學語文科課程標準》（草稿）始用「語文」一名，「語文」作為一門學校功課的名稱，是從1949年開始，這是葉聖陶首先提出來的。以前，這門功課在小學叫「國語」，在中學叫「國文」。這是因為小學課文全是語體文，到了中學，文言文逐步加多，甚至全部採用文言。葉聖陶提議改稱「語文」是劃時代的變革。他指出「語文」這門功課就是學習運用語言的本領。口頭說的是「語」，筆下寫的是「文」。「語文」應該培養學生兩種基本的能力，一是接受，即聽別人說的話，讀別人寫的文章；二是表達，即說給別人聽，寫給別人看。口頭語言的「聽」和「說」，書面語言的「讀」和「寫」，同樣重要。「聽」、「說」、「讀」、「寫」的界定和排序，是為語文課的功能和目的所作的最科學、最簡潔、最權威的闡釋。

1977年12月，葉聖陶把他的教育思想歸納為一句話：「教是為了達到不需要教」。他說教書的根本目的在於「教人自立」，教會學生「自己學習」，「自己去生活，自己去工作，自己去做人」。教育的重點在「育」，所謂「育」，就是培養良好的習慣。德育，就是要培養優良的品德和行為的習慣；智育，就是要養成不斷探求知識的好習慣；體育，就是要養成注意衞生和鍛煉身體的習慣。「教育的目的是為了指導學生學」。「各種學科的教學都一樣，無非教師幫着學生學習的一串過程」。「教」是為了達到不需要「教」，「講」都是為了達到用不着「講」。這就需要教師自然而然地站在學生一邊，讓學生處於主動的地位，教會學生以教材和範例去舉一反三，觸類旁通；去求規律，從而能真正做到「疑難能自決，是非能自辨，鬥爭能自奮，高精能自探」，「自能讀書，自能作文，自為研索，自求解決」。這種「自決」、「自辨」、「自奮」、「自探」，以及「自能」、「自為」、「自求」的能力，才是讀書和授業的根本目的。1981年10月31日，葉聖陶看了《中國青年》刊登的《來自中學生的呼聲》的調查摘要，連夜就寫了《我呼籲》。針對社會上片面追求升學率，使得學生晚上「加班加點」，嚴重損害學生身心健康的做法，要求教育界和社會各界一同來糾正這種不良風氣。