晉武帝講武於宣武場，帝欲偃武修文，親自臨幸，悉召群臣。山公謂不宜爾，因與諸尚書言孫、吳用兵本意。遂究論，舉坐無不咨嗟。皆曰：“山少傅乃天下名言。”後諸王驕汰，輕遘禍難，於是寇盜處處蟻合，郡國多以無備，不能制服，遂漸熾盛，皆如公言。時人以謂山濤不學孫、吳，而闇與之理會。王夷甫亦嘆雲：“公闇與道合。”

　　事亲有隐而无犯，左右就养无方，服勤至死，致丧三年。事君有犯而无隐，左右就养有方，服勤至死，方丧三年。事师无犯无隐，左右就养无方，服勤至死，心丧三年。

　　羊孚年三十壹卒，桓玄與羊欣書曰：“賢從情所信寄，暴疾而殞，祝予之嘆，如何可言！”