我国历史上的武举制度创始于武周。武周长安二年（702年）“诏天下诸州宣教武艺”，并确定在兵部主持下，每年为天下武士举行一次考试，考试合格者授予武职。本次武举由兵部主持武举考试，考试科目有马射、步射、平射、马枪、负重、摔跤等。
一般认为，这就是我国科举制度中“武举”或“武科”的正式出台。自此以后，武举考试为大多数封建王朝所承袭，成为封建国家网罗武备人材的重要制度。武周时期的武举偏重于技勇，重点是马上枪法，而整个制度还不够完备，只能说是武举的创制时期。
宋代完善
宋代开始，武举被纳入整个科举体系之中，确定了三组考试的程序和外场考武艺、内场考策论兵书的考试办法，武举制度臻于规整。宋代规定武举不能只有武力，还要考问军事策略，比如孙吴兵法（孙子、吴起）等。
宋以前并没有“武状元”之设。首名武状元产生于宋神宗时，为福建人薛奕，后与西夏作战时战死。历史上著名由武举出身的武将尚有唐代的郭子仪(唐玄宗开元初年武举异等)，北宋徐徽言(文进士出身，后弃文习武，徽宗授武状元)等等。
元代废止
元代武举废止不行。
明代兴盛
武举的兴盛是明清两代，特别是在清代。到了明朝时武举考察内容更改为“先之以谋略，次之以武艺”，把军事谋略置于军事技术之上，如果在答策的笔试中不及格，便不能参加武试。初期的笔试考三题，试策两题，另一题论考四书。后来四书的题目改为默写武经。但明代的军事职位多半由世荫承袭，再加上由行伍逐步提拔起来的，武举选将只是个补充形式。
明朝武举创制甚早，但制度一直没有确定下来。直到成化十四年（1478），才根据太监王直的建议，以文科为例，设武科乡、会试。弘治六年（1493年），定武科六年一试，先策略，后弓马，策不中者不准试弓马。后又改为三年一试。考试内容主要是马步弓箭和策试。
万历末年曾有过一次实行改革的议论，有朝臣主张设“将材武科”，初场试武艺，内容包括马步箭及枪、刀、剑、戟、拳搏、击刺等法；二场试营阵、地雷、火药、战车等项；三场各就其兵法、天文、地理所熟悉者言之。显然易见，这是一个具有远见卓识的提议，可惜并没有引起朝廷重视，只是说说罢了，否则将会产生极为深远的历史影响。
崇祯四年，参加武会试的举子中，能运百斤大刀者只有王来聘、徐彦琦两人，发榜后徐彦琦榜上无名，议论腾起。当时正“锐意重武”的崇祯帝认为有人作弊，将考官、监试御史等一大批官员下狱、撤职，令倪元璐、方逢年等主持复试。复试后选取百人，依照文榜例，分三甲传胪赐宴。崇祯亲自调阅前三十名试卷，钦定一甲三人，王来聘居一甲第一名，也就是武状元，授副总兵职。明代武举一直没有殿试，也没有设立一、二、三甲的区分和鼎甲名号。正式有武状元之设，王来聘是第一人。
明代武职多半由世荫承袭，加上由行伍起家者，武举只是个补充形式，所以，明代武举出人不多。值得一提的是明末名臣熊廷弼，他是一位难得的文武通材。《明史》本传说他“身长七尺，有胆知兵，善左右射。”据清人王应奎说，熊迁弼先中万历某科湖广武乡试第一名，后弃武就文，又中万历丁酉（二十五年，1597）湖广乡试第一名，次年登进士。“于是榜其堂曰：三元天下有，两解世间无。”这在历史上的确是独一无二的事情。
清代兴衰
清代制度上基本沿袭明末，考试程序、办法等。至清朝时，改为先试马步射，马射二回六矢，中三为合。步射九矢中五为合。之后比力气，包括拉硬弓、舞刀、举石。弓分八、十、十二力；刀分八十、一百、百二斤；石分二百、二百五十、三百斤。合格者才考笔试。
