1959年国庆节过后，罗瑞卿即到军委上班。他到任后立即找各位副总长、总参一些二级部长谈话，到坦克一师、高级航校、地空导弹部队第二营、北京军区空军、陆军一些部队进行视察，尽快熟悉军队各方面的情况，并从修改战略方针、政治思想工作、武器装备、军事训练等几个方面进行工作，以全面提高部队战斗力，把中国人民解放军建设成为一支正规化、现代化的革命军队。

　　军队的战略方针不是一成不变的，经常需要根据国际、国内形势以及敌我双方军事、政治、经济、地理、科技等因素的变化加以修订。这一修订工作早已开始，1959年林彪接替彭德怀主持军委日常工作以来更加快了修改的力度和进程。1960年罗瑞卿以很大精力抓此项工作，并于1960年将《关于战略方针的建议》呈送给毛泽东。

　　此时，中国正处于多事之秋。至1959年底，西藏各主要地区和交通要道的武装叛乱虽已基本平息，但边沿地区的叛乱活动仍未停止。罗瑞卿一上任即领导了肃清在西藏边沿地区叛乱的斗争。至1961年底，叛乱武装大部被歼，少数叛乱分子逃往境外，西藏地区的武装叛乱彻底平息。

　　1960年6月，赫鲁晓夫在布加勒斯特会议上，对中共代表团发动突然袭击，组织对中共代表团的围攻。7月，苏联撕毁合同，撤走专家，中苏关系走向破裂。双方在意识形态领域进行了论战。双方都发表了许多文章，引证马克思、恩格斯、列宁的论述，指责对方背叛了马克思主义。论战的语调越来越激烈，火药味越来越浓。经过时间的淘洗，人们再回过头来翻看这些文章，会感到当时那些被视为大是大非的争论的论点论据，距离实际生活已经是那么遥远，我们已经没有必要从字面上去判断这些论战的是和非。因为，不管人们主观上是不是认识到，这些意识形态方面的争论，实际上只不过是一层外衣。透过这层外衣，便可以看到分歧的核心乃是控制和反控制的问题。中国在革命胜利之后，已经摆脱了帝国主义的控制，争取了国家的独立，理所当然地要拒绝从斯大林那里沿袭下来的霸权主义的指挥棒。而这在因为苏联不愿放弃指挥棒而导致中苏关系已经破裂的情况下，便意味着要在数千公里边界线上设防，这正是罗瑞卿所面临的一项重要任务。为此，几年来，他亲自到东北、内蒙古和新疆，对边防进行具体部署。

　　1960年下半年，中国和缅甸开始进行中缅边界的勘察和树立界碑的工作。为了排除逃缅国民党残部的破坏，经中缅双方商定，驻云南的人民解放军担负了捕歼清除中国孟遮以西的旧30号界桩至南腊河与澜沧江交汇点的62号界桩之间地段附近国民党军的警卫作战任务，并获准在执行警卫任务时可进入缅甸境内20公里；随后又根据双方协议，又担负了与缅甸国防军在缅甸境内距国界线20公里以南的王南昆地区、孟白了、江拉地区和南洋河以北地区对国民党军的联合作战任务。罗瑞卿参与了勘界警卫作战的指挥。他于1961年1月在昆明参加了昆明军区的参谋工作会议并就作战、政策、外事等问题作了具体指示。1961年2月9日，这一战斗全部结束，共歼灭逃缅国民党军741名，逃缅国民党军的总部被捣毁。中国人民解放军英勇作战、艰苦奋斗、对群众利益秋毫无犯，给缅甸边境群众留下了深刻的印象。

　　1960年底至1961年，罗瑞卿以很大精力抓政治思想工作、连队基层建设、国防工业和武器装备。

　　1962年5月，在上海的毛泽东让罗瑞卿赴沪，他要谈军队战略方针问题。5月17日上午，罗瑞卿乘飞机到上海。下午7时，毛泽东在锦江饭店对面的国际俱乐部召见了罗瑞卿，参加者还有田家英、汪东兴、谭旌樵、逄先知、林克和邓汀。毛泽东首先指着《关于战略方针的建议》说：这个文件放在我这儿已经两年了。接着他对如何修改这个文件作了指示，他提出：一要将这一年上半年召开的编制装备会议的精神写进去，二要增写一节政治工作的内容。

　　为了修改好这一文件，罗瑞卿又从北京召来作战部的雷英夫、《解放军报》社的华楠、姚远方等。

　　他按毛泽东的指示，与起草文件的同志边修改，边请示，经历十几个日日夜夜，于28日完成了关于战略方针文件的修改稿。随即，罗瑞卿让秘书邓汀打电话给田家英，请他审定后呈报毛泽东。

　　战略方针文件的修改工作刚刚完成，5月29日，毛泽东就东南沿海战备问题紧急召见罗瑞卿。此时，东南沿海地区的局势已越来越趋于紧张。盘踞在台湾的蒋介石集团乘印度在中印边境对中国领土进行武装蚕食、苏联策动新疆伊犁塔城暴乱和中国经济暂时困难之际，企图对大陆东南沿海的福建省和闽粤、闽浙接合部地区进行一次空前的军事冒险，并着手进行了一系列战争动员和军事部署，成立了以蒋介石、陈诚为首的“最高五人小组”（又称“反攻行动委员会”）和准备在沿海登陆后建立伪政权机构的“战地政务局”，发出“征兵动员令”，将台湾的民用“船舶、车辆动员编组”，施行战时经济动员，通过所谓“国防特别预算”，任命刘安祺为“反攻联军总司令”。并在美军的参与下在台湾南部地区进行以窜犯沿海地区为目标的名为“昆阳演习”的作战演习，这就使东边的台湾海峡与西边中印边境的喜马拉雅山麓同时笼罩在战争阴云之中。

　　罗瑞卿到毛泽东住处听取了毛泽东关于全军加强战备的指示后，返回锦江饭店，指示作战部副部长雷英夫和二部副部长张挺立即回北京向主持军委工作的林彪和周恩来总理汇报毛泽东的指示。

　　5月30日，在北京召开了由刘伯承、徐向前元帅任正副组长的军委战略小组会议，根据毛泽东的指示，研究了东南沿海地区的作战问题。会后，作战部通过保密电话向罗瑞卿报告了会议概况以及林彪、陈毅在会议上的讲话。因为会议内容极其重要，作战部在电话里连续讲了四五个小时，用坏了两部保密电话。罗瑞卿的秘书邓汀和郭树元则交替记录，手都写麻了也不敢有丝毫懈怠。当晚，罗瑞卿交待秘书整理好军委战略小组会议电话记录稿，并准备让作战部研究处处长谭旌樵去向毛泽东当面汇报。但凌晨一时，已到杭州的毛泽东打来电话，要罗瑞卿亲自去杭州一趟。5月31日上午10时许，罗瑞卿乘坐专列抵达杭州，他与秘书再次整理了汇报稿后于当日下午去毛泽东处汇报。听了罗瑞卿的汇报，毛泽东说：要准备蒋介石集团40万人秋后登陆。不要为西面把我们的注意力吸引过去。我们的战略方向还是东面，这是我们的要害。敌人一突上来对我们很不利。今年他要来不让他上来。从连云港到香港，统统不让他上来。还要准备第二手，防止敌人突破，防止敌人空降；在我中心地区占领一个城市。他指示罗瑞卿，根据目前情况必须准备。准备好了，国民党军不来也没有坏处。如今年国民党军来进攻，就不让他上来，这样对我们比较有利。因为我们还没准备好，至于明年让不让他上来，看情况再说。毛泽东边说边扬起右手在空中用力一挥：要对敌人进行政治攻势，警告他反攻大陆是幻想。南下部队（到达后）可以公开行动，就是要叫蒋介石知道，目的是破坏他的进攻，推迟他的行动。毛泽东让罗瑞卿立即回上海，向正在那里召集的华东局地委书记以上干部会议作一次关于备战问题的报告，要大家准备打仗。毛泽东并嘱托罗瑞卿，让华东的干部讨论一下，是把敌人放上岸来消灭他们，还是不让他们上岸？毛泽东又说：有点敌人捣乱比较好，孟子说：“生于忧患，死于安乐，无敌国外患者，国恒亡。”还有一说：“多难兴邦”。

　　6月1日，遵照毛泽东指示，罗瑞卿在华东局干部大会上作了关于备战的报告。

　　罗瑞卿说：“主席找我谈了一次话，要我来向大家报告一个情况，就是要我们大家准备打仗。仗有大战、中战、小战，我们都要有所准备。我们去年讲过，我们不扩军，但备战，今年春天又提出整军备战。但那时都没有感到像今天这样迫切。就是说马上要进行一些具体的准备。我们要准备打的，是我们的老对头蒋介石。他要搞所谓反攻大陆。西面也要认真对付，但更要认真对付的当前是这个姓蒋的。我们主要战略方向在东面不在西面。”他在详尽地分析和阐述了做出这一战略判断的原因和敌我双方的情况后指出：（蒋军）一定要来并不可怕，怕的是没有准备，而准备工作除了军事上的调兵遣将、军事演习之外，还有政治上的准备，即揭露敌人和向人民做工作，使人民群众不仅不被吓倒，而且提高人民的信心，激发人民对敌人的仇恨，保卫胜利成果。在结束讲话时他提高声调说：“再重复一句，敌人来与不来两种可能都有，但我们要准备他来。我们准备得越充分，也有可能敌人就不敢来了。推迟对我们有利，我们同蒋介石总还会有较量的。”

　　6月4日，罗瑞卿在召集南京军区、上海警备区、嵊泗要塞区和东海舰队、江苏省军区的负责人传达和落实毛泽东关于东南沿海备战问题的指示后，乘火车返回北京。

　　罗瑞卿回到北京第二天，便立即分别向林彪和中央政治局汇报了毛泽东对东南沿海战备问题的指示，并从5日到8日连续三次召集有总参、总政、总后和海军、空军、各兵种以及总参有关部局参加的军委办公会议，研究贯彻毛泽东和军委关于东南沿海作战问题的指示，决定立即召开作战会议，进行兵力部署和动员。

　　作战会议从9日开始连续开了4天，罗瑞卿主持了会议。参加会议的除三总部、各军兵种外，有关军区和省军区也专程来京赴会。与会的各单位负责人一致拥护毛泽东和中央军委关于东南沿海战备问题的指示和所制定的作战方针，并遵照这一方针作了军事上的具体部署。

　　此前，作为军事上的应急准备工作早在5月中旬就已经开始。5月下旬，东南沿海地区的部队即迅速进入紧急战备状态。6月10日，中共中央发出《关于准备粉碎国民党军进犯东南沿海地区的指示》，要求全党、全军、全国人民提高警惕，从各方面做好准备。全军遵照中央的指示，进行了紧张的战备教育和训练，同时，按照中央军委的命令，入闽部队向东南沿海地区秘密开进。为了避免暴露军队调动的行踪，原驻地的电台照常工作，而入闽部队却关闭电台，保持无线电静默状态。部队出发都是在夜间，神不知鬼不觉地离开军营，乘只有车门和小窗户而无座椅的运货车厢，无论昼夜，无论列车是靠站还是临时停车都严禁开门或下车，沿途吃、喝、拉、撒、睡都在车厢之内。大多数部队下车后，还要经历少则三五日，多则七八天的数百公里的徒步行军才能到达集结地域。许多人脚上都打了泡。部队行动时，正值梅雨季节，每天淫雨绵绵，指战员们虽然穿了雨衣，但外面挨雨浇里面出汗，全身从上到下没有一处干燥的地方。沿途再加上蚊虫叮咬和闷热酷暑，这对大多数没有经历过战争和艰苦环境磨炼的部队指战员来说，不能不说是一次终生难忘的锻炼。

　　到7月初，正是荔枝收获的季节，紫红色的果实挂满了枝头。调整部署的工作已经就绪。步兵及特种兵部队全部按时开进到指定地区，东南沿海地区的陆、海、空三军已严阵以待。

　　与此同时，遵照毛泽东和中共中央开展政治攻势公开揭露敌人的指示，新华社、《人民日报》和中央人民广播电台纷纷发表时评电讯，揭露国民党军队在美帝国主义的支持和鼓励下，妄图窜犯大陆的阴谋。7月12日，陈毅副总理在庆祝中朝友好条约签订一周年宴会上讲话指出：蒋介石集团窜犯大陆的军事冒险，不论时间是早是迟，不论规模是大是小，都要由美国政府负责。因为蒋介石集团是完全依靠美国的枪杆子和金钱来过活的。这就从政治上公开地揭露了蒋介石及其后台美帝国主义，使美国陷于被动。美国总统肯尼迪不得不公开发表谈话，表示不支持蒋介石“反攻大陆”。蒋介石看到人民解放军已作好了充分战备，而美国又公开表示不支持其行动，不得不放弃其大规模的军事冒险计划，改为派遣小股武装进行袭扰。这些小股武装，除少数逃脱外，大部被沿海军民歼灭。从1962年至1965年1月，共歼灭国民党武装特务40股，594人。

　　罗瑞卿在组织指挥这一斗争时曾多次深入沿海部队，调查研究，总结反武装特务斗争的经验教训。他十分注意同公安部门密切配合，协同作战。

　　1962年，美国和蒋介石集团的特务机关“中美联合情报中心”（简称N.A.C.C.）和蒋介石集团的“国防部情报局”合伙制订了派遣小股武装特务袭扰东南沿海地区的“海威”计划，组织了一个“海威训练班”，下设若干分队，派出后的番号为“广东省反共救国军独立第X纵队”。1962年10月，在广东省先后歼灭“海威”第五、第一、第四分队后，广东省公安厅考虑，今后在条件具备时，选择利用缴获的敌之电台，与台湾通报联络，制造偷渡成功的假象，使美、蒋特务机关产生错觉，诱使其将已经训练、准备派遣的特务尽快送出来，加以歼灭，以免旷日持久，牵扯精力，增加人力、物力的损耗。广东公安厅这一设想得到了公安部和广东省委的批准。公安部将其报告国务院副总理罗瑞卿。罗瑞卿同意此项计划。

　　1962年10月28日，“海威”第三、第七分队（即“广东省反共救国军”独立第五、第六纵队）在广东省电白县登陆被歼。广东省公安厅随即争取了其第三分队司令周一敏和电台台长兼报务员戴继武，准备利用其电台与台湾通报。罗瑞卿同意这一计划，并指示：要立即架台通报，诱进六分队，彻底粉碎敌人的“海威计划”。随后他指示部队配合这一斗争。总参派出了报务人员，对戴继武发报实施监控。同时部队电台也掌握了双方通报的波长、呼号、密码，实施监控。

　　这时，不仅蒋介石集团，而且美国方面也都相信三分队已经登陆成功。美方在万分惊喜的心情中，一方面在技术、装备上予蒋介石集团以支持，另一方面想搭伙捞取好处。于是派出了由“中美联合情报中心”培训的3名特务准备参与“海威计划”的空投。

　　罗瑞卿得悉后又指示：敌人目前有很多幻想，这是和当前的国际形势有联系的。因此，这次与敌人的斗争不仅仅是消灭几个特务的问题，要在政治上给敌人以打击。我们要设法吸引一些特务来加以消灭，海上来也好，空中来也好，全歼后选择时机一齐公布，把账记在美国人身上。

　　随后，他便饶有兴致地注视着事态的发展。

　　罗瑞卿善于把一切可以利用的时间都拿来工作，常常同时进行多项任务，不知疲倦地快节奏地处理各种问题。他业余爱好甚多。但身负重任后，已没有多少空闲时间。他经常工作到深夜。有一次他睡觉后，周恩来来电话，首先问罗睡了没有。秘书如实报告后，周恩来说：“已经睡了就不要叫醒他了。”周恩来让秘书第二天一早把他的话向罗报告。第二天清晨，罗瑞卿知道此事后立即交代：今后毛主席、周总理来电话，要立即向他报告。已经睡了必须叫醒他。由于毛泽东惯于夜间工作，罗在深夜工作的时间更为频繁了，而第二天早晨6点半的新闻联播，他是雷打不动一定要听。他睡觉的时间就所剩不多。时间长了，便得了失眠症，需依靠安眠药才能睡几个小时。1961年在成都时，贺龙得知他常失眠，对他说：钓鱼可以治失眠症。于是他就跟贺龙学钓鱼。他对此虽有兴趣，但因性情太急，工作太忙，钓几分钟不见鱼儿上钩就不想再钓了。在启用国民党特务电台后，他却颇有耐心。他的心情就像等待大鱼上钩的渔夫。11月初，当他得知已同国民党情报局长叶翔之联系上后，立即指示，给他一些假情况，就说缺粮食，共产党盘查很严，空投场以后再报。他指示，对报务员要交代政策，给予优待，奖励一万美金，他要求“好好组织一下”，因为“这是艺术”。

　　每天，台湾来了电报后，复电稿均由公安部一局局长凌云领导的一个小组拟定，并于第二天一早连同来电一道送到罗瑞卿的办公桌上。

　　一个月后，大鱼上钩了，敌人按照电台指引，空投了11具降落伞，有6人和一些物资。罗瑞卿又向公安部提出新的建议。为了说明他考虑问题是多么细致和周到，下面我们引用这一建议的原文：

　　现在关键是如何取信于敌。我们可以多从敌人方面想一想，敌人都可能有哪些想法，可以多设想几种可能的对策。要搞一点策略，使敌人感到特务分队不是非常顺利的就可以开展活动。同时，这次投下那么多降落伞，敌人会想到有可能被我发现，也会由此想到（先派来的）特务分队的行动有可能被我发现。因此电台是否可以暂停一两天再出现，或先发一条电报，告敌发生情况，正在转移，过一两天再告敌，前与我民兵遭遇。是否还可以编造情况，说发生了一点伤亡，现在摆脱我民兵，转移到新住地。给敌人以这股特务正在流动、正在慢慢转移的印象。将来还可以考虑再设计一个新的空投场。

　　不久，罗瑞卿又提出：要把诱击敌机作为主要目的。12月3日，蒋介石集团的P2V飞机，按利用电台通知它的路线、时间到达空投场上空。此时空军的探照灯、高射炮早已埋伏于空投场周围。但由于有一探照灯开启稍早，导致全部探照灯都打开，高炮齐发。P2V飞机空投完特务后，仓皇逃走。空投的4名特务，活捉了3名，另一名失踪。罗瑞卿指示一定要查获，直到发现那一名特务的死尸为止。

　　年底，中共中央决定，公布打击国民党武装特务案件，同时关闭利用电台。遵照中共中央指示，在关闭这一电台前公安部又最后分别起草了一份给叶翔之、一份给N.A.C.C. 内容相同的电报，内容如下：

　　叶翔之先生并请转达你们的蒋总裁：承送礼物已全数收到，今后如蒙继续输送，我们仍将照例接收。N.A.C.C. 处已专电奉告。

　　1962年12月29日

　　公安部一局局长凌云到罗瑞卿驻地，将最后这两份电报稿送给罗瑞卿审阅，并问罗如何署名。罗想了一下写了一个“知名不具”。

　　“知名不具”，这表现了罗瑞卿的幽默。