汉三公及大将军府都有记室令史，主管上章表，奏报书记。曹操任丞相时，以陈琳、阮瑀为记室，当时的军国书檄，多由他们二人撰写。

晋代诸公及位从公以上府都设置记室。刘宋诸公府有记室参军事。梁、陈公府及王府皆有记室参军，北齐因之。隋亲王府及嗣王府有记室参军事，唐朝因之。宋代沿袭唐制，亲王府设有记室参军，但无定制，很少任命。

明代洪武二十八年，置靖江王府谘议所，设谘议、记室、教授各一人。建文中，制定郡王府官制，设记室二人，永乐时废置。后靖江王府谘议所也改为长史司，记室遂废，后世不复用。