叶圣陶终其一生都投入在推动新文学运动，曾参与北京大学的学生组织“新潮社”，并参与出版小说、新诗、小品、文学批评及剧本等多种文学作品。1921年1月4日，由周作人、朱希祖、耿济之、郑振铎、瞿世英、王统照、沈雁冰、蒋百里、叶圣陶、郭绍虞、孙伏园、许地山等十二人发起的文学研究会在北京中央公园来今雨轩正式成立，这是新文学史上的一件大事，标志着新文学运动已经从一般的新文化运动中分离出来，形成了一支独立的队伍。文学研究会的成立，预示着“一个普遍的全国文学活动开始到来”，现代文学进入了各种流派竞相发展的新时期。叶圣陶在甪直镇，未能与会，却成了文学研究会的实干家。未能与会的还有上海商务印书馆的沈雁冰。1921年3月，叶圣陶到沈雁冰在上海鸿兴坊的寓所相会，第一个印象就是沈雁冰思路之精密与知识之广博，又见到他的弟弟沈泽民。听说郑振铎到上海来了，就相约一同游半淞园，共商创刊文学研究会会刊《文学旬刊》和印行《文学研究会丛书》的事。《文学研究会丛书》包括《文学研究会丛书缘起》、《文学研究会丛书编例》和《文学研究会丛书目录》。从此，叶圣陶与沈雁冰、郑振铎成了一辈子的朋友，并形成了文学研究会新的领导核心，他们精诚合作地开展了各种活动。从1921年1月到1932年“一二八”战争前夕的11年间，是文学研究会最兴盛的时期，在中国现代文学史上写下了极其辉煌的篇章。

叶圣陶早期以文言写小说，发表在《礼拜六》等杂志上。1919年加入新潮社，开始发表白话文学作品，成为问题小说的代表作家之一。二十年代相继出版了短篇小说集《隔膜》（1922年）、《火灾》（1923年）、《线下》（1925年）、《城中》（1925年）、《未厌集》（1928年）等，并在1928年创作了长篇小说《倪焕之》。《倪焕之》的声誉经久不衰，解放前曾刊印十三版，解放后又出数种版本，还译成英、法、日、俄、德等多种文字出版，为中国现代文学“走向世界”作出贡献。鲁迅在《〈中国新文学大系小说二集〉导言》中说到叶圣陶“每作一篇，都是‘有所为’而发”，是在把“小说”作为“改革社会的器械”。

童话，作为一种新颖有趣的文体，堂而皇之地进入中国文学殿堂，还不过百年。人们一提到童话就会联想到安徒生，而叶圣陶则开创中国现代童话创作的先河。1921年11月15日，叶圣陶写出了第一篇童话《小白船》，接着在16日、17日写了《傻子》和《燕子》，在20日又写了《一粒种子》，不到一个星期写了4篇童话。12月25日到30日的6天里，写了《地球》、《芳儿的梦》、《新的表》、《梧桐子》、《大喉咙》等5篇童话。到第二年6月，一共写了23篇，结集为《稻草人》，1923年11月由上海商务印书馆出版。朱自清在《我所见的叶圣陶》一文中对叶圣陶童话创作的敏捷赞叹不已。鲁迅十分赞赏叶圣陶的探索精神，在《〈表〉译者的话》中说：“叶绍钧（叶圣陶的原名）先生的《稻草人》是给中国的童话开了一条自己创作的路的。”