汉高祖刘邦是大汉王朝的开国皇帝，而吕雉则是皇后，在古代上也有重重的一笔，这样说起来皇帝的父亲刘太公就比较不起眼了。身为大汉王朝开国皇帝的父亲，刘太公在汉高祖刘邦发迹前的记载极少，就是一个默默无闻的农民。
汉高祖刘邦在被楚霸王项羽封为汉王前，刘太公一直生活在沛县。前206年，楚汉战争开始，沛县被楚霸王项羽控制，汉高祖刘邦派人来接太公，受到楚霸王项羽军事的阻拦。前205年，汉军先攻破了西楚的都城彭城，但之后被楚军反攻，汉军大败，于是太公与吕雉都在这次战役中被楚军活捉，当成了人质。
前203年，楚汉两军持续对峙，楚霸王项羽把太公放到一个很高的砧板上面，威胁汉高祖刘邦，说你若不投降就煮了你老爸，结果汉高祖刘邦更狠，回答：“我和你一起接受楚怀王的命令，结拜为兄弟，我老爸就是你老爸;你真的要煮你老爸，也分我一碗汤吧!”
楚霸王项羽听完气得直跳脚，若不是旁边项伯拼命劝阻，刘太公的命可能就被汉高祖刘邦玩没了。没料到双方打着打着形势于楚军渐渐不利，汉高祖刘邦占了上风，楚霸王项羽就把太公和吕雉送还给汉高祖刘邦，换取楚汉以鸿沟为界。
公元前202年，汉高祖刘邦扫灭了楚霸王项羽的势力，登基称帝，按照孝道，每五天来见太公一次，好像日常百姓家父子一般，来跟父亲问安。但后来管家悄悄告诉刘太公：您虽然是皇帝的父亲，但实际上也是臣子，应该行君臣之礼 。
于是当汉高祖刘邦再次来的时候，刘太公就拿着个扫帚恭恭敬敬地站在门前迎接他，还向他下跪。不过这却把汉高祖刘邦弄蒙了，在知道真相后，他就想出一个主意阻止父亲向他下跪。那就是把父亲封为“太上皇”，这样他就不用给自己下跪了!
有人说第一位被称为太上皇的是秦始皇嬴政的父亲秦庄襄王啊，不是刘太公啊，但是大家来看秦庄襄王这个太上皇是秦始皇嬴政称帝后追尊的，他本人已经死了的，而刘太公呢，他是中国古代上第一位活着的时候就被尊为太上皇的，也是第一位不是皇帝后来成为太上皇的人，之后的皇帝也跟着汉高祖刘邦学，出现了好多太上皇，唐朝的高宗李渊与太宗唐太宗李世民，宋朝的徽宗赵佶与钦宗赵恒，直到清朝风流皇帝乾隆与嘉庆才算结束。
公元前197年，刘太公在栎阳宫去世，后来葬于万年(今中国陕西省临潼区北)。