明洪武十三年（1380年），永嘉侯朱亮祖扩建广州城时，把北城墙扩展到越秀山上，同时在山上修筑了一座五层楼以壮观瞻。镇海楼历史上曾五毁五建，现建筑为钢筋混凝土结构，是1928年重修时由木构架改建成。1929年成为广州市市立博物馆。1950年改名广州博物馆，分朝代陈列广州城2000多年发展的文物史料。
镇海楼是广州标志性建筑之一，广东省级文物保护单位。全楼高25米，呈长方形，阔31米，深16米。下面两层围墙用红砂岩条石砌造，三层以上为砖墙，外墙逐层收减，有复檐5层，绿琉璃瓦覆盖，饰有石湾彩釉鳌鱼花脊，朱墙绿瓦，巍峨壮观，被誉为“岭南第一胜览”。 镇海楼顶层正面高悬“镇海楼”横匾。镇海楼两侧对联：“千万劫，危楼尚存，问谁摘斗摩霄，目空今古；五百年，故侯安在，使我倚栏看剑，泪洒英雄！”。
镇海楼气宇非凡，古今曾以“镇海层楼”、“越秀远眺”和“越秀层楼”先后列为“羊城八景”之一。
