建国初期，语言文字比较混乱，叶圣陶奉命编集文字改革的资料，供毛泽东等中央领导人参阅。为了促使汉语规范化，叶圣陶和胡乔木一起于1951年3月4日会见语言学家吕叔湘，请他在《人民日报》刊载文章，谈文法，供干部学习。1951年6月6日，《人民日报》接受叶圣陶和胡乔木的建议，发表了题为《正确地使用祖国的语言，为语言的纯洁和健康而斗争》的社论，并从同日起连载吕叔湘、朱德熙的《语法修辞讲话》。《语法修辞讲话》连载结束后，叶圣陶写了《从〈语法修辞讲话〉谈起》一文，对《语法修辞讲话》作了中肯的评析，并且提出了对语法的建设性意见：“语法体系不一，术语分歧的现象虽不能用强迫命令‘定于一’，但是希望能充分协商，先提出一个在教学上可能试用的纲领来。”从1950年代起，叶圣陶为国家的一些文稿把“文字”关，包括《宪法》草稿的文字，就是他参与斟酌，作文字修正。1950年代出版的《斯大林全集》，译稿也是经他修饰。中央部委的一些公文（稿）也请他批改，批改后发回作为范文示范。

正确使用标点符号，也是语言规范化的一个组成部分。1951年7月17日，叶圣陶开始写《标点符号用法》一文。9月26日，《标点符号用法》以政务院出版总署的名义在《人民日报》发表，《光明日报》以及《语文学习》和《语文教学》转载。《标点符号用法》对句号、逗号、顿号等常用标点符号的定义和书写格式作了明确界定。规范标点符号，有益于文章跟口语的一致，强化了根据语言来使用标点符号的意识。叶圣陶在日记中说：“《标点符号用法》是他做的最满意的一件工作”。虽说《标点符号用法》中有些见解也还值得商榷，但它对于标点符号使用的规范化、纠正当时标点符号使用得相当混乱的现象，提醒人们注意语言和应用标点符号的关系等诸多方面都有开拓性的贡献。

1949年8月至10月中旬，叶圣陶主持拟定了《小学课程标准总纲草案》和《中学课程标准总纲草案》，以及《小学语文科课程标准》（草稿）和《中学语文科课程标准》（草稿），“总纲”和“标准”总结了“五四”以来中国教材建设的经验（包括解放区的经验），对解放后的语文教学和教材编写工作有重大影响。《中学语文科课程标准》（草稿）始用“语文”一名，“语文”作为一门学校功课的名称，是从1949年开始，这是叶圣陶首先提出来的。以前，这门功课在小学叫“国语”，在中学叫“国文”。这是因为小学课文全是语体文，到了中学，文言文逐步加多，甚至全部采用文言。叶圣陶提议改称“语文”是划时代的变革。他指出“语文”这门功课就是学习运用语言的本领。口头说的是“语”，笔下写的是“文”。“语文”应该培养学生两种基本的能力，一是接受，即听别人说的话，读别人写的文章；二是表达，即说给别人听，写给别人看。口头语言的“听”和“说”，书面语言的“读”和“写”，同样重要。“听”、“说”、“读”、“写”的界定和排序，是为语文课的功能和目的所作的最科学、最简洁、最权威的阐释。

1977年12月，叶圣陶把他的教育思想归纳为一句话：“教是为了达到不需要教”。他说教书的根本目的在于“教人自立”，教会学生“自己学习”，“自己去生活，自己去工作，自己去做人”。教育的重点在“育”，所谓“育”，就是培养良好的习惯。德育，就是要培养优良的品德和行为的习惯；智育，就是要养成不断探求知识的好习惯；体育，就是要养成注意卫生和锻炼身体的习惯。“教育的目的是为了指导学生学”。“各种学科的教学都一样，无非教师帮着学生学习的一串过程”。“教”是为了达到不需要“教”，“讲”都是为了达到用不着“讲”。这就需要教师自然而然地站在学生一边，让学生处于主动的地位，教会学生以教材和范例去举一反三，触类旁通；去求规律，从而能真正做到“疑难能自决，是非能自辨，斗争能自奋，高精能自探”，“自能读书，自能作文，自为研索，自求解决”。这种“自决”、“自辨”、“自奋”、“自探”，以及“自能”、“自为”、“自求”的能力，才是读书和授业的根本目的。1981年10月31日，叶圣陶看了《中国青年》刊登的《来自中学生的呼声》的调查摘要，连夜就写了《我呼吁》。针对社会上片面追求升学率，使得学生晚上“加班加点”，严重损害学生身心健康的做法，要求教育界和社会各界一同来纠正这种不良风气。