隋朝初年，卫州（治所在今河南淇县）司马敬肃才华出众，精明干练，性格耿直，刚正不阿，很受同僚们的敬重。
公元604年，炀帝杨广杀死父亲隋文帝而继位。他命负责检察工作的司隶大夫薛道衡考察天下群官。薛道衡调查后，一一向皇上禀报，他对司马敬肃的评语是“心如铁石，老而弥笃”，意思是心肠像铁石一样坚硬，办事老练而又忠诚老实。炀帝看了点头称好。
但是，炀帝很快便沉湎酒色。这样，负责守卫京都的武官左翊卫大将军宇文述乘机专权朝廷。文武官员害怕他的权势，敢怒不敢言。
司马敬肃管辖的卫州正是宇文述的家乡。宇文述不时命使者持亲笔书信给敬肃，表面上是笼络关系，实际是要敬肃保护他在家乡的亲朋好友。敬肃每次收到信，总是不启封就退给送信人，送信人不敢如实回复，所以宇文述一直以为敬肃领了他的情。
宇文述的亲朋好友仗着他的权势，在乡里欺压百姓，胡作非为。百姓到敬肃衙中告状。敬肃并不给宇文述面子，立即派人把肇事者捉拿归案，并依法惩处。
宇文述得知后怀恨在心，屡次在炀帝面前说敬肃坏话。炀帝本想升敬肃为太守，见宇文述反对，只得作罢。
后来，炀帝追求玩乐，国事日非，社稷岌岌可危。司马敬肃见隋朝气数已尽，便告老还乡了。
后来，人们用“铁石心肠”这个成语，来形容心肠很硬，不动感情。
成语出自：《隋书·敬肃传》