陈诚觉得过意不去，就将省政府在浦城街一所平房住宅借给胡的家眷住。

    精于处事的陈诚，将胡宗南的报告拿给蒋介石看。本来蒋介石就觉得从大陆退过来的一大批高级将领，一下子挤在一个不大的台湾岛上，哪有那么多官可封？哪有那么多兵可带？这是个很棘手的问题；但是蒋介石对于自己过去的宠将胡宗南，还是有所偏向的。蒋介石对陈诚说：“宗南跟我那么多年，忠诚可鉴。丢了西昌，也不能只怪他。他本人提出去打游击，已是不计名位高低了，我看可以派他到大陈岛去，管管浙江前线的事。他带领旧部去那边多组织几个挺进部队也好嘛。”

    于是，当年八月某日夜晚，陈诚亲往浦城街胡宗南住宅拜访，奉蒋介石之命，征求他对出任指挥沿海游击队的意见。胡宗南除了对陈诚谈了游击作战的计划与设想之外，只提他用一个化名来任职，并加以保密。陈诚欣然表示赞同。

    九月九日，胡宗南化名“秦东昌”，以江苏浙江反共救国军总指挥兼浙江省政府主席的身分，率领几个经他挑选的部属，乘船前往大陈岛赴任。

    消息透露以后，新闻界人士觉得浙江省主席及游击总指挥的职务亦不低，敏感的记者遍查了“国军战史军史”，寻不到这位“秦东昌将军”的资历与身世。越是查不到，越有吸引力，越要刨根问底。记者要上岛拜访，却被将军婉拒。某记者干脆捕风捉影地写了一篇《神秘将军秦东昌》。

    其实，胡宗南在国民党将军中的确有点神秘，而且被人视作一种“怪癖”。据说，他从不愿见记者，不喜欢采访与拍照。有次在一个公众场合被某报记者偷拍了照片，他当即派副官去找该记者商量花钱买下胶卷。还说他从来不做生日，追随他二三十年的僚属都不知道他什么日子生日，乃至一九四七年五十二岁结婚而通知几个熟人去吃饭，人家误以为他过生日。他年届五十岁还是独身将军而惹起不少轶闻，传说他身有隐疾，是阴阳人。抗战期间，曾有一段盛传全国的婚事野史，至今无法确证真假。说抗战期间他四十岁，风华正茂，又是春风得意的将军，蒋介石想将孔家二小姐许给他，就让宋美龄出面作媒。那孔二小姐当时在重庆是个风云人物，特立奇行，以西方暴露衣着而驾车驰骋于山城街，十分惹人眼目。胡宗南对她的德行早有耳闻，所以当蒋夫人提及此事，他不说同意又不好说反对。宋美龄索性强行介绍，并强使其结伴出游。不料胡将军驾来一辆敞篷吉普，又开得飞快，震得车上的小姐前仰后合，腰酸骨痛。车子还没开到南温泉，就汽油用尽。弃车步行，将军挽着小姐，顶着烈日跋涉。小姐穿高跟鞋，一步一瘸，实在走不动了，就歇在一间路边餐馆。胡宗南点菜上桌，小姐见到苍蝇扑来，恶心不已。胡宗南却大赞美味：“我们在行军时，有此美味，已属幸运。小姐不要错过。”事后，孔二小姐在宋美龄面前哭诉了一番，婚事就告吹了。

    胡宗南来到大陈后，在上大陈成立了“江浙反共游击总指挥部”，在下大陈设立了“浙江省政府”。台湾当局的浙江省政府，哪有什么像样的属地，不过是一个徒具虚名以作反攻号召的机构罢了。省府各委员，多数散居台北，遥领名义。胡宗南从台湾带来了三个国防部军官战斗团作为基本兵力。战斗团的成员，是国民党军各部队退到台湾进行整编后的编余军官，他从中选出一些骨干，分配去训练游击队。同年五月，美国军事顾问团到达台湾后，派了代表范尔逊，供给装备，并协助训练。其训练的成员，大多是在大陆的土改反霸中受过共产党打击的逃台人员和收编的海匪。

    胡宗南上任不久，就不断派遣这些经过训练的挺进队，使用美国提供适合于别动队和特务活动的装备器材，通过小股登陆的方式进入内地，和当地土匪相结合，开展游击作战。胡宗南在大陈岛，先后训练了总人数约七千多人的挺进队