白居易经过一番调查，终于弄明白，杭州附近各县连年干早的真相，除了雨水少以外，重要是湖堤失修，蓄水量小，加上无人管理，放任豪强占湖为田，或者任富绅盗取湖水，致使千顷良田得不到灌溉。于是，他决定在钱塘门外造一条捍湖堤，以积蓄西湖之水。
经过一番筹划，在白居易任职的第三年春天，筑堤工程终于动工了。从四乡八镇召募来的民工纷纷来到工地，白居易正欲宣布开工时，突然闯来一群地主豪绅。为首的一个上前说道:
“筑堤蓄水，不合天意，请白大人三思而行!”
“有什么不合天意?”白居易问道。
“第一，筑堤蓄水，湖水不能畅通，鱼龙不能成活……”
“鱼龙活不成你就着急，老百姓活不成你就不急？”
“第二，筑提蓄水，湖水有涨有枯，菱茭难养…..”
“请问是菱茭主要，还是稻米主要?你们要吃菱茭，可百姓没稻米就得饿死!”
“第三，筑堤蓄水，城内六井将会无水……”
“你说六井无水，更是大谬!须知，湖底高，井管低，湖中又有泉数十眼，即使湖水都流光了，泉水也足够用的。况且，放水有先有后，皆有节制，决不会放光，如何会六井无水呢?”
白居易据理论争，地主豪绅们被驳得哑口无言。最终终于动工了。
经过几个月的紧张施工，一条从钱塘门石函起至余杭止的大堤筑成了。这条堤把西湖分隔为二，堤的西面为上湖(即今西湖)，东面为下湖(今已成为市区一-部分)，湖水尽量贮蓄在上湖，以保证杭州以东及以北千顷良田的灌溉。
堤修成后，白居易又立了一块石碑，碑上刻了一篇白居易亲自写成的《钱塘湖石记》，对怎么放水、用水、管水以及怎么加强巡逻，防止坏人泄水、盗水等事宜，作了明确具体的规定，并立出几条禁约，特别强调农民提出放水请求，不要将公文由州到县，由县到乡层层批转，“动经旬日”，以致旱苗无救；只
要经刺史批准后，“即日放水”。
自从筑了这一长堤，西湖就变成了一个大水库;附近三县从此“无凶年矣”。