1927年，蒋介石开始招募一批信得过的人才来辅佐他。依靠祖父与蒋介石父亲的朋友关系，毛庆祥来到蒋介石身边，被任命为侍从秘书兼机要秘书，并深得蒋介石的信任，被同僚冠以“上书房行走”的称号。

　　毛庆祥曾任侍从室机要室主任，并兼技术研究室（专责电讯密码）主任，常随侍蒋介石参加高层会议，接见重要官员和外国贵宾。西安事变时，毛庆祥也曾遭扣押。获释后，毛庆祥更是一路高升，任过（剿共）南昌行营少将参议、军事委员会办公厅中将机要室主任以及蒋介石“总统府”机要主任。

　　蒋介石对通讯电讯保障有很高的要求，其中“对内通讯畅达保密”和“监侦研破敌方密码”又是重中之重。原先，密码研究电信建设只是机要室所管工作的一部分，抗战爆发后，蒋介石命令在重庆单独建制技术研究室，让毛庆祥兼主任。该机关直属蒋介石的秘密情报中心，负责侦译密电。当时毛庆祥手下有干部300余名，很多是电讯高端专才。毛庆祥的“技研”取得过辉煌战绩，如蒋冯阎中原大战时，破译掌握了冯军调动、部署机密；福建事变、两广事变时，破译了陈铭枢、陈济棠密码情报；1941年冬，破译了日本将攻击珍珠港情报；1943年，破译日本联合舰队总司令官山本五十六赴太平洋岛屿视察的情报，并告知美国，结果山本被美国飞机击落毙命。

　　按照蒋介石的独裁“习惯”，任何事情都必须上呈他亲阅批示，这样，蒋介石每天看的文电至少有百件。为不让蒋介石过度劳累，毛庆祥设计出一种新的程序方法——呈蒋亲阅的批件要选择最重要的，按来电来文的不同内容，由侍从室、军委办公厅分管幕僚首长如陈立夫（党务）、林蔚（军事）、吴忠信（内政、边疆）、王世杰（涉外）、贺耀祖、陈布雷分别送呈，并签报“拟办”意见，在文件上要标明何人或何机关、来电来文的地点、月日文别号次、内容摘要、拟办事宜，并留出批示空隙。这样，可以让蒋介石省去许多阅看时间。

　　毛庆祥作为蒋介石“南阳敌旧”、“从龙勋臣”，在南京、重庆受蒋介石私惠宠信24年，在别人眼中，他应该是与蒋“安危仰仗、甘苦共尝”的不二人选。谁知1949年，解放军解放南京时，这位忠心耿耿的“上书房行走”见蒋介石大势已去，竟然出乎意料地与蒋介石诀别，携丰厚家财偕妻孩远走南美，更于1969年移居美国，难怪国民党里有人说，老蒋看文件还可以，但阅人的本领也不过如此。