。胡宗南在大陈岛就任两年，派出游击部队袭击大陆沿海数百次，当大规模进袭时，胡宗南亲启乘船指挥攻击与撤退。

    胡宗南率部对大陆沿海连续发起的游击袭击，得手的次数并不多。也曾有几次获得成功，使当地的少量解放军驻军和地方政权受损。其中最严重的一次是一九五二年“双十节”后开始的对南日岛的袭击。胡宗南的游击队配合金门岛出动的国民党正规军，接近上万人，在飞机和舰艇掩护下猛袭南日岛，岛上解放军守备部队仅有一个连的兵力，经寡不敌众的激战后大部分牺牲，少部被俘后被送往高雄。岛上的政权也被摧毁。当天晚间，大陆不明情况就仓促派出援兵约一千多人，到达后登岛奋勇冲杀，杀伤国民党军数百人，亦因寡不敌众，全部失利。当福建军区再调部队准备反击时，十三日夜间，登岛的国民党军已全部撤离。这次袭击南日岛，解放军损失兵力一千三百人。胡宗南当然喜不自禁。

    在国民党军袭扰下，解放军在沿海加强了防备，并组织了军民联防，给国民党军还以颜色，给以惩罚。一九五三年，解放军在年头开始恢复了对金门等岛的炮击，还于五月下旬发起了夺取温州湾出海口外岛屿的战斗。五月二十九日，刚由朝鲜战场轮换返回的第二十军第六十师，在温台巡逻艇大队配合下，向羊屿、鸡冠山和大、小鹿山这四个岛屿发起进攻，歼灭守岛的国民党军二百三十人，俘获了胡宗南手下干将纵队司令员何卓权。在大鹿山还铲除了一个特务巢穴，缴获八部电台，捕获一批准备潜入内陆的特务分子。何卓权是藏身洞穴中断粮后，其侍从卫兵乘黑夜到登岛部队伙房偷冷饭被捉住，供出何卓权，才被俘获。

    羊屿、鸡冠山及大、小鹿山四岛被解放军攻占后，胡宗南遭到蒋介石的严厉申斥。胡宗南也觉得在大陆上成都、西昌败退后，连如今在大陈岛打游击也连连失利，颜面上太过不去。他电复蒋介石决心夺回羊屿等四岛，将功赎罪。

    六月十九日晚，胡宗南乘“阳”字号驱逐舰亲自率野战一、四、五大队和军官战斗团，加上海上突击大队等总计一千六百多人，分乘机帆船、帆船五十多艘进行反扑。在九艘海军舰艇的掩护下，野战一、五大队等八百多人在羊屿登陆，余部八百人在小鹿山登陆。

    守备羊屿、小鹿山的解放军各只有一个排的兵力，他们在敌我力量悬殊的情况下，大量杀伤敌人于滩头之后，被迫退守岛东北角之炮兵阵地待援。小鹿山的部队也撤向大鹿山，固守待援，处境危急。

    二十日夜间，大陆派出的增援部队赶到。经过激战，国民党军的舰艇及登岛部队，扔下一大批尸体，逃窜而去。胡宗南的部队，被歼七百人，他本人虽然亲自登舰督战，仍然以失败告终。

    二十四日，解放军又奇袭大陈港西口外的积谷山岛，予以占领，进而使大陈海面处于解放军陆上大炮射程之内，大陈岛局势更为紧张。胡宗南与美军派驻人员，对大陈岛防卫部署，发生了歧见。国民党当局觉得原来胡宗南的游击军政体制，已不适应大陈地区形势，决定将胡宗南调回台湾，以争取美方同意，派遣整编后拥有美式新装备的陆军部队，驻防大陈。并委派刚从美国陆军参谋大学学成归国的刘廉一中将，接替胡宗南，担任新设立的大陈防区司令官。胡宗南在交接卸任的自助餐宴席上，即席致欢迎词：“大陈已经渡过了一段艰辛困苦时期，今后即将要进入一个新阶段，开创新局面，所以需要有新的人物来担当。”

    这位曾在大陆叱咤风云的“西北王”，如今已在话语中透露出内心的辛酸与感慨。

    胡宗南回台之后，又悬空了两年才干一九五五年九月始，担任了四年的澎湖防卫司令官。一直在为蒋介石的军事反攻大陆效劳。一九六二年二月十四日，在台北因心脏病去世。