蘇子高事平，王、庾諸公欲用孔廷尉為丹陽。亂離之後，百姓雕弊，孔慨然曰：“昔肅祖臨崩，諸君親升禦床，並蒙眷識，共奉遺詔。孔坦疏賤，不在顧命之列。既有艱難，則以微臣為先，今猶俎上腐肉，任人膾截耳！”於是拂衣而去，諸公亦止。

　　殷中軍為庾公長史，下都，王丞相為之集，桓公、王長史、王藍田、謝鎮西並在。丞相自起解帳帶麈尾，語殷曰：“身今日當與君共談析理。”既共清言，遂達三更。丞相與殷共相往反，其余諸賢，略無所關。既彼我相盡，丞相乃嘆曰：“向來語，乃竟未知理源所歸，至於辭喻不相負。正始之音，正當爾耳！”明旦，桓宣武語人曰：“昨夜聽殷、王清言甚佳，仁祖亦不寂寞，我亦時復造心，顧看兩王掾，輒翣如生母狗馨。”

　　殷仲堪精核玄論，人謂莫不研究。殷乃嘆曰：“使我解四本，談不翅爾。”