劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　圣人南面而听天下，所且先者五，民不与焉。一曰治亲，二曰报功，三曰举贤，四曰使能，五曰存爱。五者一得于天下，民无不足、无不赡者。五者，一物纰缪，民莫得其死。圣人南面而治天下，必自人道始矣。

　　羊孚年三十壹卒，桓玄與羊欣書曰：“賢從情所信寄，暴疾而殞，祝予之嘆，如何可言！”