北宋神宗熙宁十年，苏轼由密州转任徐州知州。七月十七日，黄河在澶州决口。洪水于八月二十一日抵达徐州城下，大水围城，水深九米多，高出城内地面三米有余。在危机关头，苏轼穿着草鞋拿着木杖，亲自带士兵与百姓增筑城墙。洪水退去，徐州保住，百姓平安。苏轼因此获得朝廷的嘉奖。
水退后，苏轼一方面请求朝廷免去徐州赋税，一方面增筑“外小城”，顺便在城东门城墙上建造两层高楼，起名“黄楼”。“黄楼”表层，用黄土涂色，取“土实胜水”之意。黄楼临黄河而立，表示了苏轼对黄河洪水的警觉。
黄楼于元丰元年完成。在当年的重阳节，苏轼主持隆重庆典，庆贺黄楼落成。是为“黄楼之会”， 觥筹交错间，诗文唱合，歌以咏志，灿若群星，在中国文学史上留下一段佳话。庆典会上，苏轼很兴奋，当场写下《九日黄楼作》一诗，追怀治水经过：
去年重阳不可说，南城夜半千沤发。
水穿城下作雷鸣，泥满城头飞雨滑。
黄花白酒无人问，日暮归来洗靴袜。
岂知还复有今年，把盏对花容一呷。
莫嫌酒薄红粉陋，终胜泥中事锹锸。
黄楼新成壁未干，清河已落霜初杀。
朝来白露如细雨，南山不见千寻刹。
楼前便作海茫茫，楼下空闻橹鸦轧。
薄寒中人老可畏，热酒浇肠气先压。
烟消日出见渔村，远水鳞鳞山齾齾。
诗人猛士杂龙虎，楚舞吴歌乱鹅鸭。
一杯相属君勿辞，此境何殊泛清霅。
苏轼的弟弟苏辙与“苏门四学士”之一的秦观，虽然因故没有赶上“黄楼会”，也都鸿雁传书，写了《黄楼赋》。苏轼对这两篇赋文击节赞赏。一是给秦观写诗，表示感谢；一是将苏辙《黄楼赋》亲笔书写，镌刻成碑，立在黄楼内。诗人陈道师也特写了《黄楼铭》，赞扬苏轼治水之功。
苏辙《黄楼赋》载：熙宁十年秋七月乙丑，黄河决口，水及彭城下。苏轼适为彭城守。水未至，苏轼使民具畚锸，畜土石，积刍茭，完窒隙穴，以为水备，故水至而民不恐。及水至城下，苏又以身帅之，与城存亡，故水至而民不溃。水退又请增筑徐城，故水既去，而民益亲，于是在城的东门筑大楼，垩以黄土，曰：“土实胜水。”徐人相劝成之……青山为城，黄河为池，风光秀逸，阡陌纵横，田野错落，屋舍俨然，牛羊悠哉，渔樵自乐；向东望去：众山奔驰，群石西倾，百步洪上，舟楫穿梭，浪涛涌处，人鱼嬉戏；向南望去：楼观巍峨，檐宇翱翔，江流浩淼，汀洲罗列；向西望去：断山迷离，禾麦蒙蒙，群雁南飞，孤鸿长逝，烟波淡淡，白日西沉；向北望去：汴泗合流，汇为深渊，蛟龙盘踞，乌鸦回旋，商贾连樯，至于城隅。”
秦观《黄楼赋》如下：
惟黄楼之瑰玮兮，冠雉堞之左方。挟光晷以横出兮，千云气而上征。既要眇以有度兮，又洞达而无旁。斥丹艧而不御兮，爰取法乎中央。列千山而环峙兮，交二水而旁奔。冈陵奋其攫拿兮，溪谷效其吐吞。览形势之四塞兮，识诸雄之所存。意天作以遗公兮，慰平日之忧勤。繄大河之初决兮，狂流漫而稽天。御扶摇以东下兮，纷万马而争前。象罔出而侮人兮，螭蜃过而垂延。微精诚之所贯兮，几孤墉之不全。偷朝夕以昧远兮，固前识之所羞。虑异日之或然兮，复压之以兹楼。时不可以骤得兮，姑从容而浮游。傥登临之信美兮，又何必乎故丘。觞酒醪以为寿兮，旅肴核以为仪。俨云髾以侍侧兮，笑言乐而忘时。发哀弹与豪吹兮，飞鸟起而参差。怅所思之迟暮兮，缀明月而成词。噫！变故之相诡兮，遒传马之更驰。昔何负而遑遽兮，今何暇而遨嬉。岂造物之莫诏兮，惟元元之自贻。将苦逸之有数兮，畴工拙之能为。韪哲人之知其故兮，蹈夷险而皆宜。视蚊虻之过前兮，曾不介乎心思。正余冠之崔嵬兮，服余佩之焜煌。从公游于斯楼兮，聊裴回以徜徉。
苏轼离开徐州后不久，因“乌台诗案”而被捕入狱。他手书苏辙《黄楼赋》碑刻，《黄楼赋》碑遭到投河、粉碎的厄运。1988年重建黄楼，《黄楼赋》碑再次安置在楼内。黄楼上的《黄楼赋》碑已非苏轼真迹，乃民间的拓片重刻版。苏轼在徐州为官两年，在《灵璧张氏园亭记》里写道：“余为彭城二年，乐其土风，将去不忍，而彭城父老，亦莫余厌也。将买田于泗水之上而老焉。”未如其愿。
予尝游于彭城，见黄楼立于黄河故道，黄墙红柱，飞檐高啄，杨柳依依，遥想东坡当年，不胜嘘吁，故记之。
