在范仲淹的大力整顿下,剔除了不少的弊政,将全国治理得井井有条,百姓纷纷拍手称快。与此同时,范仲淹还主张精简官僚机构,以便提高行政的效率。为了撤查贪官污吏,他还向各地派出大量按察使,只要有贪官被查处,就会被他立刻从班薄上除名。
由于他嫉恶如仇,很快就遭到了众多保守派和封建贵族的竭力攻击。而庆历新政也在推行不到三年的情况下,被迫废止了,至于范仲淹则被撤去军政要职,由副宰相被贬谪为了那州知州,在其离开京城时,百姓纷纷夹道相送,都不忍其离去。
后来,他又被调往杭州任知州,并在当地购置了千亩良田。不过,他并未将此视为自己的私产,而是将所得的收入设为公积金,用以救助当地的穷苦百姓。不仅如此,他对当地穷人的婚丧嫁娶等方面也均有所资助。例如,有一天,范仲淹正在与同僚饮宴,看到有几个披麻戴孝的人正在用土捏造下葬的器具。经过打听他才知道,有个客居在杭州的读书人死了,准备埋葬在近郊。但是,由于其生前较为清贫,无钱购置棺材、墓穴及其他送葬器物,只得用草席裹其尸体,再用泥土捏造一些送葬器物。范仲淹听后,立刻就露出了哀悼的神情,随即便撤去了酒席,并赠给他们一笔钱财,让他们顺利地办完丧事。当地人得知这件事后,都对他的善举十分感动。