来洛阳后，一年冬天，他新做了一件温暖的袄，当他一穿上身，立刻便想到:“百姓多寒无可(没办法)救，一身独暖亦(是)何情!心中为念农桑苦，耳里如闻饥冻声。争得(怎能得到)大裘(皮袄)长万丈?与君(指洛阳百姓)都盖洛阳城!”然而，这不过是诗人美好的，永远也不能实现的愿望而已。现在他只希望在自已行将入土之前，还能为老百姓做一点点好事。但是，现在诗人已经是七十二岁的高龄了，又一身多病，由于一生为官清廉，向来就没有多少积蓄，真感到心有余而力不足了。
“多得很，前几天还有小孩淹死的…..”
老船工的声音又在诗人耳边响起，“八节滩”、“九硝石”那惊险而悲惨的情景又呈现在诗人眼前。他痛苦极了，最终，终于决定，一定要倾其所有，疏通航道，让“八节滩”“九硝石”化险为夷，以了却自已这最终的心愿。
决心既定，他便去四处游说，又得了几位僧人的支持和资助，终于在会昌四年，组织民工开山挖河，疏浚了伊河河道。在正式通航的那一天，诗人写了两首《开龙门八节石滩》的诗，刻在河边一块巨石上。其中一首写道:
七十三翁旦暮身(即将去世)，誓开险路作通津(通达的水道)。夜舟过此无倾覆，朝胫(下水推舟的人)从今免苦辛。十里叱滩(指八节滩)变河汉，八寒阴狱(佛教中八个寒冷的地狱，仍指八节所普滩)化阳春。我身虽殁(死)心长在，暗施慈悲与后人。
在疏通八节滩以后，过了两年，即会昌六年，诗人在重病以后，与世长辞，时年七十五岁。家人遵照他的遗嘱，将他安葬在松柏长青的香山琵琶峰上，墓前刻着“唐少傅白公之墓”几个大字。在他入葬的那天，那遇救的老船工和其他船民，从八节滩舀了一瓢清水，和着船工们的泪水，一起酒祭在诗人的墓前。从此以后，洛阳人和四方游客，经常来到他的墓前酒酒祭奠。因此，白居易墓前的泥土总是芳香而湿润。