白马寺本院坐北朝南，为一长形院落，总面积约4万平方米。主要建筑有天王殿、大佛殿、大雄宝殿、接引殿、毗卢阁等，均列于南北向的中轴线上。虽不是创建时的“悉依天竺旧式”，但寺址都从未迁动过，因而汉时的台、井仍依稀可见。有五重大殿和四个大院以及东西厢房。
整个寺庙布局规整，风格古朴。寺大门之外，广场南有近些年新建石牌坊、放生池、石拱桥，其左右两侧为绿地。左右相对有两匹石马，大小和真马相当，形象温和驯良，这是两匹宋代的石雕马，身高1.75米，长2.20米，作低头负重状。
相传这两匹石雕马原在永庆公主（宋太祖赵匡胤之女）驸马、右马将军魏咸信的墓前，后由白马寺的住持德结和尚搬迁至此。
白马寺本院内位于由南到北的中轴线上的佛殿，从前到后依次分布着山门、天王殿、大佛殿、大雄殿、接引殿、清凉台和毗卢阁等主要建筑。
白马寺山门采用牌坊式的一门三洞的石砌弧券门。“山门”是中国佛寺的正门，一般由三个门组成，象征佛教“空门”、“无相门”、“无作门”的“三解脱门”。由于中国古代许多寺院建在山村里，故又有“山门”之称。明嘉靖二十五年（1546）曾重建。红色的门楣上嵌着“白马寺”的青石题刻，它同接引殿通往清凉台的桥洞拱形石上的字迹一样，是东汉遗物，为白马寺最早的古迹。山门内东西两侧有摄摩腾和竺法兰二僧墓。
五重大殿由南向北依次为天王殿、大佛殿、大雄殿、接引殿和毗卢殿。每座大殿都有造像，多为元、明、清时期的作品。毗卢殿在清凉台上，清凉台为摄摩腾、竺法兰翻译佛经之处。东西厢房左右对称。整个建筑宏伟肃穆，布局严整。此外，还有碑刻40多方，对研究寺院的历史和佛教文化有重要价值。
天王殿为单檐歇山式，东西面阔5间，南北进深4间，内供明代夹纻弥勒佛像、泥塑四大天王像、韦驮天将像等；大佛殿为单檐歇山式，东西面阔5间，南北进深4间，内供一佛，文殊、普贤二菩萨，迦叶、阿难二弟子，二供养人，观音菩萨等塑像；
大雄殿为悬山式，东西面阔5间，南北进深4间，内供释迦、阿弥陀、药师“三世佛”，韦驮、韦力二天将，十八罗汉等23尊元代夹纻造像，韦力天将泥塑像等；接引殿，硬山式，面阔3间，进深2间，内供阿弥陀佛及观世音、大势至二菩萨像；毗卢阁，重檐歇山式，位于清凉台之上，东西面阔5间，南北进深4间，内供毗卢佛及文殊、普贤二菩萨。
钟鼓楼，分别位于山门内南北中轴线东侧和西侧。钟楼由日本国中村包行先生捐资400万日元、白马寺出资60万元人民币于1991年6月建成。鼓楼于1992年竣工。钟鼓楼同为方形角楼，高7米，重檐歇山式，上覆灰色筒瓦，额枋彩绘，同建于石砌台基之上。钟鼓楼的建成恢复了寺院晨钟暮鼓的礼佛仪式，恢复了历史悠久的洛阳八大景之一——“马寺钟声”。
日本捐资重修的白马寺钟鼓楼、法宝阁与藏经阁，分别位于清凉台的东、西两侧，坐落在东西长25.2米，南北宽22.5米，高5米的台基之上。1995年建成。二阁形制相同，重檐歇山式，坐北朝南，面阔5间，进深4间，长18.5米，宽12.95米，朱漆圆柱，额枋彩绘，上覆灰色筒瓦。
其中，藏经阁内供奉着泰国佛教界赠送给白马寺的中华古佛，收藏有龙藏经、中华大藏经、日本大藏经、西藏大藏经、敦煌大藏经等10余种藏经；法宝阁内供奉着1993年印度总理拉奥访华时赠送的一尊铜佛像，并收藏有数十种“法宝”。
泰式佛殿，位于寺院西侧墙外100米处，始建于1992年，1995年4月竣工。该殿坐西朝东，建于长27.3米，宽21.3米，高1.2米的台基之上。大殿南北长14.4米，东西宽7.5米，高10米，其廊柱与墙面均用大理石镶嵌，三重檐，顶饰琉璃瓦，具有鲜明的泰式建筑风格。在该殿之中，供奉泰国友人赠送的铜佛一尊。
卧玉佛殿，位于大佛殿东侧，原为斋堂，1996年辟建。该殿为五开间硬山式建筑，南北长17.25米，东西宽5.4米，建于石砌台基之上，殿中供奉卧玉佛一尊。
玉佛殿位于大佛殿西侧，原为禅堂，五开间硬山式建筑，南北长17.25米，东西宽5.4米，建于石砌台基之上，殿内供奉玉佛一尊。
六祖殿，位于大佛殿西侧南部，原为祖堂，硬山式建筑，西阔七间，南北长24.5米，东西宽5.4米，建于石砌台基之上。殿内供奉禅宗六祖木雕像。
