史书记载，包拯“生于草茅，早从宦学”，意思是说他生于乡村农家，但很早就开始研读如何做官的经书。包拯出身寒微，二十八岁考上进士。按照宋朝的制度，考中进士就可以当官，但包拯是个孝子，他信守圣人所谓“父母在，不远游”的教诲，直到三十六岁才正式出山，当了知县这样的小官。在知县任上，他断了一个奇案，声名远播。三十八岁升任知州，清明廉洁，受到上司重视和世人称赞，之后，便开始朝廷重臣的政治生涯。

包拯的父母是农民，以耕作为生，对子女有很高期望，希望他们能够出人头地。包拯五岁开始识字，十三岁读完四书五经。农忙时，他帮助父母下田做农活，农闲时，就寄居在城南的一座古庙，埋头钻研学问。他对儒家治国安邦的思想和历代清官贤臣的事迹最有兴趣，常常一卷在手，废寝忘食，三更灯火五更鸡，从来不知疲倦。十年寒窗苦读，到二十八岁去考进士时，他已经是一个满腹经纶、饱读诗书的学者。

宋仁宗天圣五年（1027年），包拯二十八岁，考中了进士。朝廷任命他为“大理评事”，大致相当于现在的法院陪审员，级别很低。接着，又任命他为建昌（今江西永修）知县。由于父母年事已高，不愿意随他一起到江西赴任，包拯只好放弃官职，留在家里，侍候父母。后来，朝廷又委派他到家乡附近的和州（今安徽和县）做官，负责管理税收钱粮，这一回，包拯去赴任了，但是因为实在放心不下留在家中的父母，只坚持了几个月就打道回府了。

父母相继去世之后，包拯才离开乡村，前往京城等候授予新的官职。他住在小客栈里，夜晚守灯苦读，写下了他平生唯一的一首五律：“清心为治本，直道是身谋。秀干终成栋，精钢不作。仓充鼠雀喜，草尽狐兔愁。史册有遗训，无贻来者羞。”大意是说，做人要光明正大，就像秀挺的木材应该做房屋的栋梁，精炼的钢料决不应去做铁，我应该做一个无愧史书教诲的清官。

景佑三年（1036年），包拯被任命为天长（今安徽天长）知县。在那里，他公正地断了好多积案，博得了清官的好名声。这是包拯任天长知县时的一例判案：一天，一个农民忽然发现他家养的一条牛嘴里流血，掰开牛嘴一看，吓了一跳：原来是牛舌头被割了。他又气又恨，一路骂骂咧咧地告到县衙来。包拯看了农民的状词，立即断定此事必是仇人干的。他对告状的农民说，你回家后，把牛宰了，拿到集上去卖肉。农民说，私宰耕牛犯法，小人不敢。包拯说，你别怕，尽管大胆地去卖。第二日天刚亮，就有人闯到县衙公堂上告状，说是有人私宰了耕牛。包拯一听，怒喝道：“你偷割了人家的牛舌头，还来恶人先告状！拿下！”一审，此人果然是那农民的仇人，吓得要命，一五一十地交待了作案的经过。不久，包拯升任端州（今广东高要）知州。端州出产一种名砚，是朝廷钦定的贡品，和湖笔、徽墨、宣纸一道，并称“文房四宝”中的绝品。以往在端州任职的知州，总要在上贡朝廷的端砚数目之外，再多加几倍，作为贿赂京官的本钱。包拯上任之后，一改陋习，决不多收一块。离任时，就连他平时在公堂上用过的端砚，也造册上交了。

后来，包拯升任，离开端州，他的船在羚羊峡口遇到一阵奇怪的大风雨，他亲自下舱检查，发现船舱里私藏了一块端砚，这是当地百姓悄悄送给他的。包拯一言不发，将那块名贵的端砚丢入江心。民间传说，那里有一个名叫“墨砚沙”的沙洲，就是当年包公掷端砚的遗迹。