张良闲来无事时，曾经到下邳的一座桥上散步。这时来了一个老翁，穿着粗布短衣，走到张良的身边，故意把自己的一只鞋掉到桥下去，回过头来对张良说：“小伙子，下去替我把鞋子捡上来！”张良感到很生气又很惊奇，想挥拳揍他。但因见他年老，勉强忍住怒气，到桥下把老翁那只鞋给拣了起来。
正要交给他时，老翁说：“替我把鞋穿上！”张良心想：已经忍着气替他捡鞋子了，于是就弯下腰来，屈膝跪在桥上，替老翁把鞋穿好。老翁也就不客气的伸出脚来，让他把鞋穿好。穿好之后，也不说声谢谢，笑着就离开了。张良十分惊奇，愣在那儿望着老翁离去。
老翁走了一里多路，又回来，说道：“我看你这小伙子可以调教，五天后，天亮的时候，跟我在这儿见面！”张良虽然感到纳闷，但也回了个礼，说：“好的。”
第五天，天一亮，张良就去桥头赴约。等他到时，想不到老翁已经先到了，很生气的对张良说：“跟老人家约会，你反而迟到，为什么？”说完掉头就走，边走边说：“五天后早点来见面！”
第五天，五鼓鸡鸣，张良就起身前去，到达桥头时，想不到老翁还是比他先到，老翁生气的说：“你又迟到了，为什么？”
老翁说完又走了，说：“后五天，再早点来！”第五天，张良没等到半夜，就提前去赴约，心想：“这一次可够早了吧。”他才到了没多久，一会儿，老翁就来了，他一看张良已经来了，就高兴的说：“本来就是应该这样！”随即从怀中取出一卷竹简编成的书，说：“你好好研究它，就可以做帝王之师。十年后，时局一定会有变动的。十三年后，你到济北来找我，谷城山下的黄石那就是我了。”说完老翁就走了，没有交代别的话。
等到天色亮了，张良细看那本书，原来是《太公兵法》。张良心里十分珍爱它，经常研究温习这部兵书。