关于孔子作《曳杖歌》前后的情况，在《礼记·檀弓上》、《孔子家语·终记解》以及《史记·孔子世家》等书中都有大体相同的记载。兹引《礼记·檀弓上》中的相关文字如下：
孔子蚤作，负手曳杖，消摇于门，歌曰：“泰山其颓乎？梁木其坏乎？哲人其萎乎？”既歌而入，当户而坐。子贡闻之，曰：“泰山其颓，则吾将安仰？梁木其坏，哲人其萎，则吾将安放？夫子殆将病也。”遂趋而入。夫子曰：“赐，尔来何迟也！……予畴昔之夜，梦坐奠于两楹之间。夫明王不兴，而天下其孰能宗予？予殆将死也。”盖寝疾七日而没。
东汉郑玄在上述引文之末注解说：“明圣人知命。”所谓“知命”，字面意思是了解自己的命运；比较科学的解释，也就是依据已知的情况对未来作出较为近是的预测。孔子唱这首歌时，只是一种预感，接着病倒了，七天后去世，正应验了他预感的正确。活着，活得清醒；快去世时，也不糊涂。大概这就是孔子之所以为孔子，也是这首《曳杖歌》所要昭示世人的这一层意思吧。
从《礼记》的记载中可以知道，孔子在吟唱这首《曳杖歌》之前，心灵上正经历着微妙的深刻的变化：夜里他做了一个不祥的梦，梦见正坐在两个廊柱之间被人祭奠；他早早地起了床（“蚤作”），或许梦醒后就一直未曾睡着吧；他反背着手，拖着手杖，孔颖达解释“负手曳杖”说：“杖以扶身，恒在前面用。今乃反手却后以曳其杖，示不复杖也。”（《礼记正义》）所谓“示不复杖”，意思是自己将不久于人世，不会再用手杖了；他还“消摇于门”，从屋内走到门口，显出一副放松随便的样子。“消摇”，即“逍遥”，安闲放松的样子。孔颖达说：“夫子礼度自守，貌恒矜庄。今乃消摇放荡以自宽纵……示不能以礼自持。”又说“负手曳杖”与“消摇于门”二句，“并将死之意状”（引书同上）。正是在这样一种特殊的心态支配之下，孔子这位在二十多年前已早知“天命”的哲人，面对即将到来的死亡，也不能不长歌当哭，动情地唱出这首留恋人生、爱惜生命、无奈地直面死亡的悲歌。
《曳杖歌》全文只三句。前两句用比拟，以物比人，以“泰山”、“梁木”拟“哲人”。“泰山”是众山所仰的高山，现在泰山快要崩塌，众山就无可瞻仰了。“梁木”是放置檩条、椽子的地方，现在梁木快要折断，檩条、椽子就无可依托了。紧接着这两个比喻的句子，末句直接说到自身。“哲人”，乃夫子自道；“萎”，原指草木枯死，引申为病危。上述做梦等种种潜意识的以及行为上的异常情况，令孔子自感已经病入膏肓，将不久于人世了。孔子的高足子贡，这天早上刚好来看望老师，听了这首歌，由“泰山”、“梁木”的比喻，他想到了“哲人其萎”的后果将是十分严重的。他所说的“则吾将安放”，意思是他们这些学生就将永远失去孔子这位诲人不倦、可敬可亲的好老师了，不觉心情黯然。
全诗三个句子，虽有前两句的比喻与后一句的直陈两个层次，但因感情真挚，比喻贴切而又形象，且句式整齐，每句的第三字都用表示“大概”或“将要”的副词“其”字，故仍不失一气呵成、流利紧凑的即兴吟成的本色。
此诗表达作者在秋夜对隐居朋友的思念之情。前半首写作者自己，即怀人之人；后半首写正在临平山学道的丘丹，即所怀之人。全诗不以浓烈的字词吸引读者，而是从容落笔，浅浅着墨，语淡而情浓，言短而意深，格调古朴雅致、安闲恬淡，给人玩味不尽的艺术体验。
如果就构思和写法而言，这首诗还另有其值得拈出之处。它是一首怀人诗。
前半部分写诗人自己，即怀念友人之人；后半部分写正在临平山学道的丘丹，即诗人所怀念之人。首句“怀君属秋夜”，点明季节是秋天，时间是夜晚，而这“秋夜”之景与“怀君”之情，正是彼此衬映的。次句“散步咏凉天”，承接自然，全不着力，而紧扣上句。“散步”是与“怀君”相照应的：“凉天”是与“秋夜”相绾合的。这两句都是写实，写出了作者因怀人而在凉秋之夜徘徊沉吟的情景。
接下来，作者不顺情抒写，就景描述，而把诗思飞驰到了远方，在三、四两句中，想象所怀念之人在此时、彼地的状况。而这三、四两句又是紧扣一、二两句的。第三句“山空松子落”，遥承“秋夜”、“凉天”，是从眼前的凉秋之夜，推想临平山中今夜的秋色。第四句“幽人应未眠”，则遥承“怀君”、“散步”，是从自己正在怀念远人、徘徊不寐，推想对方应也未眠。这两句出于想象，既是从前两句生发，而又是前两句诗情的深化。从整首诗看，作者运用写实与虚构相结合的手法，使眼前景与意中景同时并列，使怀人之人与所怀之人两地相连，进而表达了异地相思的深情。
陆机在《文赋》中指出，作者在构思时，可以“观古今于须臾，抚四海于一瞬”。刘勰在《文心雕龙·神思篇》中也说：“文之思也，其神远矣。故寂然凝虑，思接千载；悄焉动容，视通万里。”这些话说明文思是最活跃的，是不受时空限制的。因此，在诗人笔下，同一空间里，可以呈现不同的时间；同一时间里，也可以呈现不同的空间。像王播的《题木兰院》：“三十年前此院游，木兰花发院新修；如今再到经行处，树老无花僧白头”，就属于前者。而这首韦应物的怀人诗，则属于后者。现代的电影艺术，有时采用叠影手法来处理回忆与遥想的镜头，有时使银幕上映出两上或两个以上的画面，使观众同时看到在两个或两个以上的空间或时间里出现的不同场景。这首诗运用的手法正与此相同。它使读者在一首诗中看到两个空间，既看到怀人之人，也看到被怀之人，既看到作者身边之景，也看到作者遥想之景，从而把异地相隔的人和景并列和相连在一起，说明千里神交，有如晤对，故人虽远在天涯，而想思却近在咫尺。