但江苏人并不欢迎陈果夫主掌苏政，因为都知道他是国民党党魁、CC派首领，由他当省主席，将会给江苏带来灾难。因此，社会各界便联络起来，发了一个挽留前任省主席的通电，用意十分明显，不欢迎陈果夫。这对兴致勃勃前来赴任的陈果夫无疑是当头一盆冷水。
10月12日，陈果夫率省府各委员在镇江正式就任。就职典礼上，他发表了简短的讲话，提出4点意见。第一，一切遵照宣誓词实行；第二，对前任卓有成效的规程，一定萧规曹随，决不轻易变更；第三，做事必须科学化；第四，一切工作必须切实。对于“切实”两个字，陈果夫特别重复了几遍，以便引起大家的重视。很显然，陈果夫是要给那些不欢迎他的人一个好的印象，以表明他不是那种夸夸其谈、不务实际的人。
不久，江苏省党政官员举行联合纪念周，司仪唱了静默3分钟后，不过1分钟便唱静默完毕。陈果夫即走上前去，拿出当年军人的威严，命司仪立正，重唱静默3分钟，他看着表，到确确实实立了3分钟才终止。静默后，陈果夫走上主席台，借题发挥，向全体官员训话，将上次他在就职典礼上所说的“切实”两个字再次加以说明：“如说3分钟，必须恰是3分钟，才算是切实，不可为2分59秒，亦不可为3分零1秒。准时到，准时退，都是切实，从事建设不切实即不易成功。马马虎虎的习惯，必须革除。”陈果夫的这一下马威确实很见成效，众人都低下头，屏住声息，听他训话，自此以后，省府党政官员在陈果夫面前都不敢马虎从事了。
为国共合作共举杯，畅言美好未来。陈果夫主政江苏后，第一个重大举动便是革新吏治。他认为大凡担负某方面责任的人，在受命之始，必须注意的是怎样能够得到切实合作的帮手。治理一个地方，负主要责任的人很重要，他手下的帮手也很重要，不能忽略。在一个省当省主席，主要的帮手便是主管各厅的厅长、省府委员、省府秘书长及各县的县长。其次便是各厅的局、处长及县以下的佐治人员。而现实中国的官场虽经辛亥革命、大革命的洗礼，仍是十分黑暗，任人唯亲、结党营私、贪污腐化、欺上瞒下、不求政绩、不思进取等现象相当严重。陈果夫在国民党内干了多年，对此有深刻的了解，他觉得，不对吏治进行一番革新，他不可能干出什么成绩，甚至会站不住脚跟，为此，他要在自己主掌江苏期间，对政治来一番刷新。
首先是选择各级官吏，陈果夫十分严格和谨慎。对各厅厅长，他要求的条件是：干自己主管之事有专门研究和实际经验；有责任心、有创造力；对于省主席有相当信仰，能够接受他的指挥。特别是最后一条，陈果夫十分强调。对各县县长，陈果夫要求其有主管全面事务的能力，有把一个县办好的志愿和抱负；对省方的命令和计划要切实执行。不管是厅长也好，还是县长也好，陈果夫最重要的是要求他们对自己信仰，听他的话，做他的忠实臣仆，这样，他在江苏就可以令行禁止，江苏便可以成为他独来独往的自由王国。
为了选择好各级官吏，陈果夫在省政府成立了一个甄审委员会，甄审委员由省府委员充任。凡属任命官员，都得经过甄审委员会严格审查，不但看他的学历、文凭、谈吐、文章，更重要的是详细调查他过去的经历及其政绩，过去做事有无功过，何以会有此功过等。考查后，如果各委员都赞成，才予以任命，如意见不统一，最后由省主席决定，官吏任职后，必须定期报告自己的工作，省府经常对其工作进行检查，每隔一段时期，便召开会议，对有政绩的官员进行表扬与奖励，对没有政绩甚至有过错的官员进行训斥和处罚。奖优罚劣，功过分明，这一办法收到一定效果。
在用人时，陈果夫不限制籍贯与私人关系。他初到江苏时，常听到人将江苏分为江南与江北，他颇不高兴，加以申斥，他说：“我自己是浙江人，在江苏做事，从不想他是江苏，我是浙江。假使我用人限于浙江人，那就糟了。浙江的人才未必都来，而我就被同乡观念所限，用不着人才了，我又如何做得好事？所以我认为限于用同乡、同学、或亲族之类，都是自己把自己的范围缩小的一种表现。”当时，江苏省的县长中有22省的籍贯，东北人用的较多。当然，在一些关键部门中，陈果夫仍然用他的同乡、同学、亲族，特别是一些CC派人物，都被他安插在重要位置上。他自己并非像他所说的那样超脱和清廉。
为了使各级官员能克己奉公，廉洁自持，陈果夫开展了惩治贪污的行动。为了表示他对贪污行为依法办理、毫不容情的决心，一下子处理了三名贪污有据的县长，其中二名现任县长职期间，大肆贪污钱财，中饱私囊。查出后，陈果夫即令撤职法办，并勒令退还贪污款项，有一名现任县长与陈果夫有亲戚关系，事发后，找到陈果夫三叔陈其采，希望从中通融，陈其采为此专门写信说情，陈果夫考虑再三后，还是将这名贪污县长依法严办了。还有一名是10年前当过县长的，在任期间贪污款项10万多元，一直没有过问，他自以为年代久远，时过境迁，不会有什么事了，便特来应县长甄审，想再度出任县长，结果被审出