这是一首山水诗，更是一首政治抒情诗。它所描绘的山水是历史的，而不是自然的。荒凉古城，无可赏心悦目，并非欣赏对象，而只是诗人思想的例证，感情的寄托，引人沉思感伤，缅怀历史，鉴照现实。所以这诗不但在处理题材中有虚构和想象，而且在诗的结构上也突出于表现诗人情怀和自我形象。诗人满怀忧国忧民的心情，引导人们登临这高险荒凉的古城、空城、荒城、指点人们注意那些足以引为鉴戒的历史遗迹，激发人们感情上共鸣，促使人们思想上深省。
首联扣题，开篇即点明诗人登上馀干古县城后看到的景象：馀干古县城地势较高。周围又没有其他城乡相连，因被废弃又无人居住，俨然成了一座孤城，在城下抬头望去，已好像和白云连在一起，多年以来，这座古城一直矗立在楚水西畔，荒凉而孤独。首句中诗人站在城下，第二句的视角已转为凭楼远眺，诗人不动声色地写出了自己位置的转移：不论是“与白云齐”还是“万古荒凉”，都带有夸张的意味，意在表现馀干县城被抛弃后的沉寂和冷落。这既是客观意象的反映，同时也含有诗人自己的感情。
首联写的是古城全景，颔联中视角转入城内。诗人先写“官舍”，这昔日繁华的地方如今杂草丛生，被越来越高的蓬篙掩埋了起来；随后再写“女墙”，城墙还在，可是巡防的将士已经不见踪影，到了夜甲。城楼上看不到守夜人点亮的火光，只能听见一声声乌鸦的啼叫从旷野响起。“已空”对应“犹在”，物是人非之感顿生。“秋草”与“夜乌”两个带有冷色调的意象，承接首联中的‘’荒凉”一词，把古县城的残破和冷清刻画得淋漓尽致。
视角再次转移，诗人在颈联中着意描写城外的景象。站在城头向远处眺望，只能看见茫茫的沙地，大风骤起，卷起遮天蔽日的黄沙，向着天边无尽处卷席而去；此时正是黄昏时分，落日西垂，渐渐地快与城上的游客在同一高度上了。县城周围，理应是村舍农田，而诗中却尽是茫茫“平沙”；再者，县城治所虽然迁移，不该导致所有百姓随之搬迁，可这里的人却纷纷选择了离开了。联系当时背景，安史之乱已经持续了七年之久，战区自然是烽火遍地，其他州县自然也会受到战争的影响，趁乱而起的诸侯、盗寇，无不成了鱼肉百l姓的黑暗力量。举国上下，为了保命，为了生存，人民莫不纷纷迁徙，背井离乡。颈联中的“落日”，既是自然景观，又暗含诗人对国家命运的忧虑。
只有无知的鸟儿不懂历史变迁和国势盛衰，不分朝暮地在弋阳溪水上飞来飞去。尾联化用了《诗经·小雅·十月之交》中的诗句：“高岸为谷，深谷为陵。哀今之人，胡憯莫惩。”《十月之交》旨在通过写周幽王时期发生的日食以及后来一系列“百川沸腾，山冢崒崩”的自然灾难，以对当时西周统治者宠信小人、政治腐败的现状提出警告。刘长卿把《十月之交》中的名句化川在这首诗里，看似闲笔，实际上是委婉地对当时的唐朝统治者提出批判，又有劝诫之意，比之正面警示更加含蓄，也更深刻。
从形式美学上看，这首诗歌在结构上呈现出了一种内在的美学对称。中间两联对仗工整，形成了诗歌画面的近景与远景，色彩与声响。首尾两联各用一个主语，句式相似，对应工稳。巧妙的诗歌结构不仅保持了诗歌形式上的对称之美，更形成了诗歌音律节奏的和谐变化。特别是首尾两联语意绵密，上下勾连，一气不断，更是产生了不同的音律效果。首联迫促，如异峰突起，强化了孤城的万古荒凉，给读者造成强烈的视觉冲击与感觉震撼效果。尾联低缓，便于诗人悲痛压抑情感的抒发，有如幽谷哀筝，幽恨绵长。诗歌就在结构的统摄之下，不为篇幅所窘，不为法度所限，于严格的体式中，气韵飞动，神思飞扬。使这座呈现在读者面前的馀干县城，不仅是一座孤城，更是一座诗人心灵的荒城。无怪乎前人评说刘长卿“诗体虽不新奇，甚能炼饰”（高仲武《中兴间气集》），此诗能写得如此沉迷哀婉､深沉悲凉，且情在景中，兴在象外，正是诗人“炼饰”功夫所至。
李昌祺是庐陵（今江西吉安）人。他二十九岁成进士，入仕途，居官北京和广西、河南，到六十多岁才告老归家，一生游宦三十多年。古人重乡土。在外地的日子越长，越是怀念故乡，一旦能晤乡人，即使彼此素不相识，也觉得特别亲热，有说不完的话。李昌祺活了七十多岁。当他老年居官异地时，故乡的许多亲朋已经谢世；由于当时交通不便，音书梗阻，这些人的消息他无法一一知道；一旦听到故乡来人说起，老人便不禁伤心泪落，不忍卒听。这首小诗写的就是这种心情。诗中“故旧凭君休更说”的“凭”是请求的意思，“凭君”犹言“请你”，唐宋诗词中常用此义。
不忍心听故旧死亡的消息，是老年人共同的心态。一来，人到老年，心多慈软，不能承受这种刺激；二来，故旧飘零，往往勾起老人许多辛酸往事，陷入复杂痛苦的回忆中，容易引起感伤；再则，亲朋一个个死了，他这位幸存者能不想到自己的来日无多吗？对此，年龄越大的人，越发敏感。因此，这首诗抒发的是人之常情，具有广泛的典型意义。
但是，有趣的是：故旧死亡的消息老人不忍闻，故乡的近事老人却特别想听，哪怕只是一丘一壑的变迁，一时一事的兴革。诗把这两种心情写得非常生动突出。“形容不识识乡音，挑尽寒灯到夜深”：来的这位乡人，尽管老人从不认识，但他那满口乡土语音，老人听来却格外熟悉，有一种特殊的感情。他长期在广西、河南游宦，几曾听到过江西吉安人的口音？贺知章说：“乡音无改鬓毛衰”，乡音是一种特殊的乡土文化的印记；在天涯异域，听到乡音便倍感亲切，彼此的心自然靠近了，而且有了共同的话题。今晚，这话题是那样富于吸引力，把老人带入了色彩斑斓的世界。天尽管寒冷，夜尽管深沉，老人却听得津津有味，挑尽寒灯，毫无倦容。诗句对此只作了平静的叙述，我们却借着那“寒灯”的微光，看见了这位老人兴奋的脸色，激动的童心。
于是我们看到：这首小诗揭示了一种有趣的矛盾心态——又是爱听，又是怕听。“爱听”的心情，通过“挑尽寒灯”四字写得盎然欲滴，老人仿佛小孩瞪着大眼，托着腮帮子听人讲故事一样，形象十分鲜明。“怕听”的心情，通过“凭君”二字，也显得深沉迫切，老人的形象又变得皱纹满脸，灯光下老泪纵横。正是这种有趣的矛盾，这种前后截然不同的形象，使这首小诗充满了喜剧情调。你读着它，将止不住发出幑再一想，又不禁感到凄然。
更值得一提的是：诗写得如此自然浑成，你找不到什么“诗眼”，也找不到什么“警句”，诗人只是叙写了这次夜话的过程，他只是顺着生活的本来面目来写一己之哀乐，却无意之中表现出了老年人的普遍的心态，勾画出从童心盎然到老怀凄怆的形象变化。诗，真有不可思议的魅力！
