建国后，王瑞林长期担任邓小平同志秘书，历任政务院机要处副股长，国务院副总理办公室秘书、中央军委主席办公室秘书、主任。

1983年后，王瑞林任中共中央办公厅副主任，中央军委纪委书记，1992年起任解放军总政治部副主任，1995年9月在中共十四届五中全会上获增补为中共中央军事委员会委员，1995年12月在八届全国人大常委会第十七次会议上被任命为中华人民共和国中央军事委员会委员。

1997年9月，王瑞林在中共十五届一中全会上被决定为中共中央军事委员会委员，1998年3月在九届全国人大一次会议上当选为中华人民共和国中央军事委员会委员。

此外，王瑞林还是中共第十三至十五届中央委员，1988年9月被授予中将军衔，1994年6月被授予上将军衔。

据中共中央办公厅秘书局主办刊物《秘书工作》2009年01期《秘书形象谈——我心目中的秘书》一文记载，“1952年，20岁的王瑞林开始给邓小平当秘书，一直到1992年党的十四大后担任总政副主任，仍然负责邓小平的秘书工作。在40多年的岁月中，他以耿耿忠心，赢得了邓小平的高度信任。”

文章提到，邓小平女儿邓榕曾评价称：“父亲为人一向寡言，对身边的工作人员也从不多说，虽然不会多说，但他内心的感情却是极其丰富的。特别是对王瑞林这样跟随他多年的秘书，更是感情很深。这种感情，不同于对自己子女的骨肉亲情，但却又极其相似。”