这首咏史诗，就秦始皇筑万里长城事发表议论。前两句写筑城。第一句说长城高而广，城上屯扎着千军万马，铺陈城的高大稳固，守城的人众多，难以撼动。次句说筑城的目的，是为了抵御外部胡人的侵略，巩固自己的政权，以便于“一世而达万世”，永保帝业。三、四句突转，说秦始皇只知道危险来自外边，自以为有了长城，便可高枕无忧，却不知道体恤人民，结果酿成内乱，激起民变，陈胜、吴广揭竿而起，秦政权没多久就完结了。诗揭示的是这样一个历史规律：内政不修，对人民残酷压迫，是国家灭亡的主要原因，外部的侵扰倒是其次的。当时宋朝对人民的压榨也很厉害，百姓怨声载道，诗人在这里明是咏史，也是针对现实，对统治者发出警告。
咏史诗所咏如果是前人没咏过的史实，就应该述清事件的来龙去脉，直接发表议论；如果所咏是熟事，务必转换角度，翻出新意，切忌人云亦云。胡仲参这首诗所咏是秦以暴政失国，这个题目，前人已经作了许多论述，所以这首诗擒住修筑长城备胡这一点，肯定长城的高广及防御功能，然后生发开去，牵出对立面，说秦始皇刻意预防的地方倒没出什么问题，他没想到的地方反而成了导致亡国的关键。这样组织材料加以议论，便给人以思考，也给人以新鲜感。
胡仲参这首诗的构思布局，与唐章碣的《焚书坑》有些相同。章碣诗云：“竹帛烟销帝业虚，关河空锁祖龙居。坑灰未冷山东乱，刘项原来不读书。”说秦始皇提防书生，结果灭秦的人恰是不读书的人，与胡诗一样，都是从相反处做文章。元人陈孚有首《博浪沙》诗，是从正面做文章的，也很有趣味，诗云：“一击军中胆气豪，祖龙社稷已动摇。如何十二金人外，犹有人间铁未销。”说秦始皇收尽民间铁，铸成十二金人，没想到仍然有大铁椎在，使他差点丧命。由此可见，诗材遍地皆是，只要细心挖掘，就能找到好的题目。
全诗采用五七言杂用的短古形式。前四句五言叙写自己从长安来驱马邯郸道上的经历和丛台访古的见闻感受。纯用简笔叙事抒情，即使是丛台怀古这样一个可以写一首长篇七古的题目，也只用“伤心丛台下，一带生蔓草”二语轻轻带过。这一方面固然是由于题为“邯郸客舍歌”，前四句主要是用来交代行程，引出“邯郸客舍”，笔墨不宜在丛台怀古上黏滞；另一方面也可能由于在此之前已写过一篇《登古邺城》的登临怀古诗，此处再写丛台访古，意蕴、笔法均易重复。
后六句改用七言句式，押韵也由前四句之押去声转为平声韵，显示出所写内容、意蕴的转换。五、六句先写客舍所在：门临漳水，水边垂柳挂丝，下系渔船。寥寥二语，信笔点染，风光如画。而这钓鱼船所钓的鱼又正是乡间旅舍现成的下酒佳肴。从而自然过渡到下句的“沽酒”，衔接自然，有神无迹。
七、八句正面写客舍主人——“邯郸女儿”，却不对她的容貌装束风姿作任何具体描绘，而是别出心裁地选取了一个“夸数钱”的镜头。这位年轻的女店主，一边卖酒，一边在面对客人挑亮灯盏，在灯下数着酒钱。“夸”字或谓是“大”的意思，恐非。夸即夸耀、夸示，“夸”字要和“对客”联系起来品味。这位邯郸女儿生长于客舍，见惯邯郸道上来来往往的行人客商，有少女的天真无邪，却无半点少女的羞怯，她对自己的经营颇为自豪，竟面对着陌生的旅客在夸耀式地大声数钱，展示自己的业绩。“数钱”的字面也许跟“河间姹女工数钱”有些关系，但“对客挑灯夸数钱”这个细节绝对是来自亲历的生活体验。这幅素描，将“邯郸少女”的神情姿态、口吻性情描绘得生动、逼真而传神，而且把中世纪路边客舍之夜的气氛也渲染得极富情趣，较之前两句纯写客舍景物显得更富生趣。
在这种气氛熏染下，生性好奇而浪漫的诗人不禁为之心醉。于是而沽酒买醉，痛饮狂歌，喝到尽兴时酩酊大醉，于一曲狂歌声中颓然眠卧于酒垆边。这时一轮明月，正挂中天。这两句写身为客子的诗人身心俱醉的快感，写得情景交融，畅快淋漓，具有浪漫色彩。
丛台荒芜，表明历史的无情，难免伤心；邯郸姑娘的大方爽直，尚保存一点燕赵儿女的豪爽之气，又留恋不已。这几种复杂的感受，诗人一时难以融和，只好接着酒力去消解，于是就有“一曲狂歌垆上眠”的举动，由此也就使这首诗带有浓郁的浪漫色彩。诗的前后两段，一写邯郸访古，一写客舍夜饮，一简一繁，适成鲜明对照。