首联点明地点、时令和心绪。蔡州辖境大致相当于今河南淮河以北、洪河上游以南的地区，当汴、洛、淮、沔交通孔道，故作者用“水国”代称之。秋风飒飒，万物萧瑟，被秋风轻轻“摇落”的自然是片片黄叶。望着在秋风中回旋、挣扎、最终还是落地化作尘泥的黄叶，联想到自己如同黄叶般枯萎飘零的身世和命运，“日暮依杖水”的诗人，怎能不思潮如涌、心乱如丝呢？这一联，出句是因，对句是果；前句写景，后句抒情，写景具体，抒情概括，使人迫不及待地想了解被秋风拂动的、郁结在诗人心底的“羁绪”究竟是什么。
以下六句，是作者蓄积心底已久的愁思怨意的总爆发，每一联又单独表达一层意思。颔联引伟大的爱国诗人屈原和唐代著名诗人白居易以自况，作者的用意是显而易见的：正直爱国如屈原，忧民忧时如自居易，皆不免被贬逐黜放的命运，何况自己？不过，自己虽然不像屈原、白居易那样含冤至深，但他们所具有的高尚品德、博大胸怀、坚贞节操，自己也同样仿佛一二。因此，颈联就直接怒斥那帮专门罗织罪名、陷己于不义之地的奸佞小人，尽管他们费尽心机，陷害贤良，并且得逞于一时，然而天理自在，道义犹存，鬼神可鉴，苍天有知。如果说，“大夫泽畔行吟处，司乱江头送别时”是作者借古人写出了自已遭受冤屈、谪官异乡这一事实的话，那么，“尔辈何伤吾道在，此心惟有彼苍知”两句，则是作者对这一既成事实的不满、愤恨情绪的直接流露，其中既包含了对陷入于罪的小人的轻蔑，也表达了对自己人格品德的自信。但现实终归是严酷的，尾联即明白无遗地坦露了作者在奸佞当道、君主寡恩、伸冤无望、前途渺茫的事实面前暗悔当初的低沉心绪。自古官场皆为是非纷争之地，有人飞黄腾达，有人含冤受屈，若要解除这些烦恼，辞官归隐、寄情山水不失为一条出路。然而如今的作者宦海沉浮，几经折磨，“苍颜华发”，垂垂老矣。经历了这样身心俱瘁的痛苦后，即使是辞官归隐，作者也嫌太晚太迟，何况获罪之人，羁绊在身，并无辞官之自由呢？作者更深一层地写出了自己贬官失意后的懊悔心情，同颔联，颈联相比，虽然显得压抑沉闷，令人有迟暮之感，但同时也能激起人们对身陷不幸且又衰老憔悴如此的作者更多的同情。
从诗题来看，西下的夕阳映照着波光鳞鳞的水面，作者倚杖伫立水边，映入眼帘的景色当远远不止“水国西风小摇落”这一句所能概括。然而作者却无心观景，除了这一句外，全诗几乎没有接触到任何其实就在他眼前的具体景物，由此可知，充塞在他心底的“羁绪”该有多么复杂，多么深沉，以致稍微被外物触动，便同决堤的江河般一泄而出，滔滔不绝。
此诗共三章，采用复沓形式，各章仅异数字。孔颖达疏曰：“三章上二句恶四国，下四句美周公。”
第一章前两句以“既破”、“又缺”起始，斧、斨均为生产工具，人们赖以创造财富、维持生计。然这些工具均因为四国之君长年累月服劳役而致破致缺，家计亦因此而处于困苦之中，故尔怨恨深深。这里是以斧斨等工具的破缺来反映劳役之长之苦；以人们赖以生产劳动的必要条件的毁废，来反映生活之困。这是以点代面，以个别代全部，言事而寄慨的手法。
关于这两句，郑笺另有说法：“既破毁我周公，又损伤我成王，以此二者为大罪。”以斧斨之破缺比作对周公、成王的流言毁谤，这似乎过分拘泥于史事而说得太玄远了。而将周公比斧，成王比斨，恐亦有失礼度。
人们生活在这么艰难困苦之中，终于有了转机，有了希望：周公率兵东征了。当时周京为镐，在今陕西境内，管蔡等四国在今河南一带，故云“东征”。
三、四两句是因果关系：由于周公东征，所以四国叛乱者惊惧恐慌。毛传释“皇”为匡，即四国乱政得到纠正，走上正道。亦通。政局有转机，全是周公的功劳，故这两句从国的角度美周公，亦是叙事中含抒情，是间接的赞颂。
第五句“哀我人斯”，是省略了主语周公。周公对人民如此哀怜体恤，故逼出第六句：这是很崇高很伟大呀！这是人民以自身的感受，从内心发出的歌赞声，是直接的赞颂。
第二、第三两章，结构与第一章完全相同，仅换几个字。“錡”不论解作凿或锯，“銶”不论解作凿还是独头斧，均为劳动生产的工具，其在诗中的作用亦与第一章的“斨”同。这头两句同样在“恶四国”。下四句亦是“美周公”，仅换几个字。“吪”，化也，即受教育，移风易俗。“遒”，毛传解作固（坚固），郑笺解作敛（聚合）。孔颖达疏协调两说云：“遒训为聚亦坚固之义。”即“使四国之民心坚固也”、“四国之民于是敛聚不流散也”。流散之民回归，家人团聚，万民团结，国家自然强固。
综观全篇，这第四句的最后一字“皇”、“吪”、“遒”似非信手安排，而是有逐层递进，逐层深入的关系在。“皇”，如解为惊恐，则只是乱政的动摇，还未真正改变；如释为匡正，那也只是治的开始，对人民来说这只是外部条件的变化。而“吪”，受教育、受感化，这是深入到内部的变化。最后的“遒”，团聚、强固，则已结出丰硕的果实了。
末二句“嘉”、“休”基本同义，亦如第一章，是对周公的德行发自内心的直接赞颂。
不过对此诗也有不同的理解，例如闻一多、程俊英就认为这是东征士卒庆幸得以生还之作。这样，对诗中一些词的解释也就与上面不同。如第一、二两句的斧、斨、錡、銶均指为武器。第五、六两句的“哀我人斯”的“人”则是指战士。因有的战士已战死沙场，活着的也都离乡背井与家人久不见面，这些都让人哀伤。这样的解释，与传统的“美周公”观点是大相径庭的，但也言之成理，可备一说。
