刘琨听说王敦来使，就已预料到自己的命运，他对儿子刘遵说：“处仲（王敦字处仲）使来而不告我，是杀我也。死生有命，但恨仇耻不雪，无以下见二亲耳。”大英雄言及此，泪下如雨。
段匹襌遣兵士闯入，缢杀刘琨，时年四十八。同时遇害的，还有刘琨的子侄四人。由于当时晋廷还要依仗段匹襌抵拒石勒，没有立即为刘琨正名举哀。
两年多后，晋廷才下令赠刘琨为侍中、太尉，谥曰愍。南宋大诗人陆游与民族英雄文天祥都有佳诗赞美刘琨：
买醉村场半夜归，西山落月照柴扉。
刘琨死后无奇士，独听荒鸡泪满衣。
《夜归偶怀》陆游
寥阳殿上步黄金，一落颠崖地狱深。
苏武窖中偏喜卧，刘琨囚里不妨吟。
生前已见夜叉面，死去只因菩萨心。
万里风沙知己尽，谁人会得广陵音。
《己卯十月一日有感而赋》文天祥
段匹襌杀掉刘琨后，其属下汉人、胡人多奔散。杀刘琨是段匹襌一生最大的败笔，但这个鲜卑人一直忠于晋室。不久之后，他与晋臣邵续合力，进攻段末杯。石虎乘段氏兄弟互攻之际，乘间掩袭，最终把段匹襌包围于蓟城。
段匹襌本想突围逃生，单骑归朝，被人劝阻。最后，眼见救援无望，段匹襌身穿晋朝朝服，手持晋节，率从人出见围攻他的石虎，正色凛然道：“我受国恩，志在灭汝。不幸族内自乱，以至于此。既不能死，也不会奉汝为主。”石虎与段氏鲜卑一族从前常打交道，二人还曾结拜为兄弟。石虎虽残暴成性，但对段匹襌仍十分尊敬，“起而拜之”。
段匹襌被执送襄国后，被石勒软禁，常常也被石勒“请出”参加赵国的“朝会”。段匹襌总是一身晋朝朝服，手持晋节，从不向石勒下拜。以石勒、石虎之暴，竟也一时不敢对段匹襌下手，可见这位鲜卑大人的威武和人格魅力绝非常人可比。
石勒忍耐了一年多，见始终无法降服这位辽西鲜卑，又怕其族人趁机拥之东山再起，便加以谋乱罪名，派人杀掉了段匹襌。
《晋书》对段匹襌的评价非常中肯：
段匹襌本自遐方，而系心朝廷，始则尽忠国难，终乃抗节虏廷，自苏子卿以来，一人而已。越石（刘琨）之见诛段氏，实以威名；匹襌之取戮世龙（石勒），亦由众望。福祸之应，何其速哉！《诗》云：“无言不酬，无德不报。”此之谓也。