南齐王朝末年，朝政一天比一天腐败。齐东昏侯萧宝卷即位后，更加不理朝政，荒淫无度。

当时执政官徐孝嗣想请有勇有谋、为人又很正直的吕僧珍与他共事。但吕僧珍早已看出萧帝王气将尽，就婉言谢绝了。

吕僧珍见驻守襄阳的征东将军萧衍兵强马壮，准备顺应民心，推翻齐朝统治，就立即前去投奔，很快得到重用，被任命为中军参军。

萧衍有一次让一万多精兵砍伐了大量的木材和竹子，沉在襄阳城西郊外的檀溪里，上面覆盖了许多茅草，堆积如山。许多将士都不明白这样做的道理，吕僧珍猜出了萧衍的用意，他并不对其他人说，只在暗地里让部下制作了几百张橹备用。

公元500年，萧衍决定出兵征讨齐昏侯。他下令把檀溪里的木材和竹子打捞出来，用木材制造战舰，用竹子和茅草制造竹筏，很快就造好了大批战舰和竹筏。但船多橹少，士兵们常为此吵个不休。这时，吕僧珍便把几百张橹拿出来，解决了问题。

两年后，萧衍灭掉齐朝，建立梁朝，史称梁武帝。吕僧珍凭借自己的能力和才干，在朝中担任要职。

由于长期在京城任职，吕僧珍几乎没有机会回家乡去。因此，他上表武帝，请求回乡扫墓。为了表示对吕僧珍的恩宠，武帝特地任命他为南兖州（今扬州）刺史。

武帝的意思是让吕僧珍借机会炫耀一下，但吕僧珍到任上后，对州府各方人士态度很谦虚，一点也没有京城大官的架子。会客的时候，他的兄弟也只能在外堂，不准进入客厅。

吕僧珍有几位靠做小生意维持生计的亲戚，他们知道吕僧珍当了刺史后，都想到官府里来谋取官名。吕僧珍对他们说：“皇恩浩大，让我担任刺史，我报答还来不及，怎么能有越轨之举呢？你们各有各的职业，不能有这种非份之想，还是赶快回去吧。”

吕僧珍这种廉洁奉公、不徇私情的高尚情操受到了当时人们的广泛赞颂和仰慕。

有一位离职的官员宋季雅回到兖州后，特地选择了与吕僧珍相邻的房屋买下来并定居。一天，吕僧珍问宋季雅：“你花了多少钱买了这幢房屋？”

“一千一百万。”宋季雅回答。

吕僧珍听了一愣，吃惊地问：“怎么会这样贵？”

宋季雅笑着回答说：“一百万买了房屋；一千万呢，买了个好邻居！”

后来，人们就用“千万买邻”这个成语，来形容好邻居的可贵。

《南史·吕僧珍传》