王汝南既除所生服，遂停墓所。兄子濟每來拜墓，略不過叔，叔亦不候。濟脫時過，止寒溫而已。後聊試問近事，答對甚有音辭，出濟意外，濟極惋愕。仍與語，轉造清微。濟先略無子侄之敬，既聞其言，不覺懍然，心形俱肅。遂留共語，彌日累夜。濟雖俊爽，自視缺然，乃喟然嘆曰：“家有名士，三十年而不知！”濟去，叔送至門。濟從騎有壹馬，絕難乘，少能騎者。濟聊問叔：“好騎乘不？”曰：“亦好爾。”濟又使騎難乘馬，叔姿形既妙，回策如縈，名騎無以過之。濟益嘆其難測，非復壹事。既還，渾問濟：“何以暫行累日？”濟曰：“始得壹叔。”渾問其故？濟具嘆述如此。渾曰：“何如我？”濟曰：“濟以上人。”武帝每見濟，輒以湛調之曰：“卿家癡叔死未？”濟常無以答。既而得叔，後武帝又問如前，濟曰：“臣叔不癡。”稱其實美。帝曰：“誰比？”濟曰：“山濤以下，魏舒以上。”於是顯名。年二十八，始宦。

　　晉武帝講武於宣武場，帝欲偃武修文，親自臨幸，悉召群臣。山公謂不宜爾，因與諸尚書言孫、吳用兵本意。遂究論，舉坐無不咨嗟。皆曰：“山少傅乃天下名言。”後諸王驕汰，輕遘禍難，於是寇盜處處蟻合，郡國多以無備，不能制服，遂漸熾盛，皆如公言。時人以謂山濤不學孫、吳，而闇與之理會。王夷甫亦嘆雲：“公闇與道合。”

　　溫公喪婦，從姑劉氏，家值亂離散，唯有壹女，甚有姿慧，姑以屬公覓婚。公密有自婚意，答雲：“佳婿難得，但如嶠比雲何？”姑雲：“喪敗之余，乞粗存活，便足慰吾余年，何敢希汝比？”卻後少日，公報姑雲：“已覓得婚處，門地粗可，婿身名宦，盡不減嶠。”因下玉鏡臺壹枚。姑大喜。既婚，交禮，女以手披紗扇，撫掌大笑曰：“我固疑是老奴，果如所蔔！”玉鏡臺，是公為劉越石長史，北征劉聰所得。