全诗紧紧围绕“山雨”的题意，首联描写山中未雨之景，颔联写遇雨之景，颈联写雨中之景，尾联写雨后之景。全诗用笔细腻，景象逼真，表达了作者对大自然的喜爱之情。
作者写途中遇雨，共分四层叙。雨前天气很好，一点也没有雨意。作者在山林中穿行，虽只戴短笠，还是被茂密的树枝挂缠和阻挠，他一路观山望景，兴致很好，只觉天气凉爽宜人，没有想到下雨。这一层说明，“山雨”之来，确乎是出人意料的。
山雨的到来，溪上云雾四起，渐渐连成一片，行人只觉山光物态的迷人，而没有意识到这就是雨来的信号。要在别处，“山雨欲来风满楼”（许浑《咸阳城东楼》），雨前的征兆十分显著，贵州山区却全然不同，云雾恰起，阵雨就来了。“溪云到处自相聚，山雨忽来人不知”二句写出雨来迅疾，使人回不过神来。好奇之感，通过“忽来”、“不知”等词语，自然流露出来。
正因为出乎意料，作者事先没有准备雨具，只有一领遮头的短笠，衣襟不免要被打湿了。但反正遇上了，便“莫听穿林打叶声，何妨吟啸且徐行”（苏轼《定风波·莫听穿林打叶声》）。看到雨中村边瓜豆蔓藤散乱纷披，作狼狈状，使他的注意力转移到观望雨中景色，浑忘沾湿之苦。“马上衣襟任沾湿，村边瓜豆也离披。”一个“也”字，从物我同情中得到几分慰藉，而一个“任”字则表现出雨中人的从容与泰然。
突然，雨脚为之一收，天就放晴了。这时比雨前的物象，又有一番清丽：云雾全失，峰峦尽出，斜阳相迎，虹霓随之，一片明朗璀璨景象。山雨虽然住了，但雨水化成无数山泉奔流下山，跳坡注涧，又作“万瀑齐飞”的壮丽景观。“新晴尽放峰峦出，万瀑齐飞又一奇。”是这首写景诗推出的新境界，作者情绪也为之一振。雨前的溪云四起是一奇；雨中的瓜豆离披是一奇；而雨后的万瀑映日是又一奇。
“溪云到处”——山雨之兆，“万瀑齐飞”——山雨所成，来龙去脉，皆扣题面。重心所在是写“山雨”，而非写雨霁。“山雨”非川原如烟之雨——后者是绝不可见“万瀑齐飞”之奇观的。本篇境界层出不穷，恰似张镃赞“诚斋体”所谓：“造化精神无尽期，跳腾踔厉及时追。目前言句知多少，罕有先生活法诗。”（《携得秘监诗一编登舟因成二绝》），何绍基这首诗亦得诚斋体之精髓。
此诗前两句归舟所见大江、岸上之景，创造出一种凄清寂寞的环境；后两句写作者造访不遇返回时的怅惘之情。全诗借春江、归帆、烟草、柳花、春旗、落日等暮春之景，融入诗人对长辈尊敬盼见而未见之悠长不尽愁情，情景相融，浑然一体。
开头两句即写归舟所见大江的情景。第一句写江水，“春江”点出时令，“渺渺”点出水面的辽阔。船行江中，四面江水像是围抱着船帆一样流去。春江浩荡，水光接天，江面上飘着一片白帆，景象极美。然而江面愈是宽阔，愈衬出船的渺小，又愈透出孤寂之感，而这正是诗人此时心境的真实写照，如同舟中也载着诗人的万斛烦愁。表面上全是写景，实际上是景中寓情。
次句写岸上。“茸茸”点出花草的柔密茂盛，从下文“柳花”来看，可知此时已是暮春，春草已经长得非常繁盛，此刻被笼罩在烟霭之中，迷迷茫茫，就像充满了哀愁一样。春草连绵不绝，哀愁也无尽无休。以上两句写景物，诗人把自己的感情注入这些景物中，创造出一种凄清寂寞的境界，烘托出他的失望心情。
访人不遇，使人怅恨。所以临归去时，即使明知已没有希望，诗人仍然情不自禁地要向被访者居住的地方或方向频频回首，这是访人不遇的一种普遍心理。诗人此次离开江宁，不知何日才能再来，所以不可能掉头不顾。然而回望江宁，惟见柳花乱飞，城头春旗招展，太阳已快落山，却不见所望之人的影子。“柳花吹尽”说明凝望的时间已久；“春旗催日”则是说落日已在城头所建的旗帜之下，春旗迎风飘扬，好像在催促它快快落去。纷纷乱飞的柳花使人心烦，落日的余辉告诉人时间已晚，夜色将临，没有可能见到所访之人了。诗人心中的怅惘之情，如一江春水那样远，那样深，那样悠长不尽。
全诗通篇四句，采用融情入景、以景写情的手法，情景交融，浑然一体，深得唐人风致，用春江、归帆、烟草、柳花、春旗、落日等意象渲染了一种苍茫迷离的氛围，烘托出诗人访友不遇的怅惘之情。
