在范仲淹的大力整顿下，剔除了不少的弊政，将全国治理得井井有条，百姓纷纷拍手称快。与此同时，范仲淹还主张精简官僚机构，以便提高行政的效率。为了撤查贪官污吏，他还向各地派出大量按察使，只要有贪官被查处，就会被他立刻从班薄上除名。
由于他嫉恶如仇，很快就遭到了众多保守派和封建贵族的竭力攻击。而庆历新政也在推行不到三年的情况下，被迫废止了，至于范仲淹则被撤去军政要职，由副宰相被贬谪为了那州知州，在其离开京城时，百姓纷纷夹道相送，都不忍其离去。
后来，他又被调往杭州任知州，并在当地购置了千亩良田。不过，他并未将此视为自己的私产，而是将所得的收入设为公积金，用以救助当地的穷苦百姓。不仅如此，他对当地穷人的婚丧嫁娶等方面也均有所资助。例如，有一天，范仲淹正在与同僚饮宴，看到有几个披麻戴孝的人正在用土捏造下葬的器具。经过打听他才知道，有个客居在杭州的读书人死了，准备埋葬在近郊。但是，由于其生前较为清贫，无钱购置棺材、墓穴及其他送葬器物，只得用草席裹其尸体，再用泥土捏造一些送葬器物。范仲淹听后，立刻就露出了哀悼的神情，随即便撤去了酒席，并赠给他们一笔钱财，让他们顺利地办完丧事。当地人得知这件事后，都对他的善举十分感动。