人们通常只知道八股文是明朝的东西，实际上早在唐宋即已有其雏形。唐朝科举考试所采用的“帖经”、“墨义”实际上就是明朝八股文的萌芽形态。唐朝科举考试以“帖经”取士，所谓“帖经”，是拿所诵之经书，掩其两端，中间只开一行，裁纸为帖。唐朝先采用口试方式，令应试举子回答经义，后来改用笔述回答经义，这就叫做“墨义”。宋初沿用此制，到了南宋，程朱理学兴起，为了减轻应试举子的负担，于是废考经义，考试范围限制在朱熹集注的《四书》（《大学》、《中庸》、《论语》、《孟子》的合称)之内，试题亦取自《四书》中的文句，所以后来的八股文又被称为“四书文”。到了元朝仁宗延祐年间，明确规定了科举考试法，有个叫王充耘的写了《书义矜式》一书，提出“八比”(即八股)的写作方法，于是举子考试都以八比体式作文应试。
八股文在历史上早就有了萌芽，那为什么到明朝才最终定型呢？又是谁首倡这种考试文体的呢？对这些问题，目前尚无定论，学界亦众说纷纭。
有人认为，这是明朝初年统治者网罗人才的一种手段。明初，战事方了，百废待兴，各级政府的管理和地方的治理，都迫切需要大量知识人才。因此，朱元璋格外重视对人才的网罗，但作为一个出身寒微的帝王，朱元璋又希望能对臣子拥有足够的驾驭和约束能力。所以在选拔官员的科举考试中，他采取固定统一格律，行文以《四书》、《五经》为题，不允许考生有自己的思想，答题也只是代古人立言，试图通过推行这种考试方法，将天下知识分子的思想集于一统，从而让自己的江山能够永固。因此八股文在明初方始出现，它是由朱元璋首创的。
有人则持不同看法。因为科举最后一道关是殿试，而殿试内容又极其博大庞杂，也就是通常所说的策问，包括问圣学、问天时、问刑赏、问圣贤、问天地鬼神、问人臣言行、问文学之士、问佛仙等。这些极具知识含量的问题，出身寒微、缺乏教育的朱元璋能否提出，显然是一个问题。所以持反对“朱元璋首创说”的人认为，明初八股文是由朱皇帝的臣子谋士刘伯温、宋濂等人最先创制的。
但“刘、宋首创说”的观点也有问题，因为明朝正式颁行“八股取士”制度时，刘伯温已去世数年了。所以现在又有一种折衷的观点，认为明朝八股文是在明初特殊的政治、文化环境中产生的，在众谋士特别在刘伯温的提议下，朱元璋正式下令推行八股取士的考试制度。
中国古代最大的科举考场——江南贡院
中国的各个封建王朝，为了巩固他们的统治，发展封建的政治经济，都十分注重网罗人才。中国历史上遴选人才的方法，在科举以前，经过了察举、征辟、九品中正等几个阶段。这些方法带来的一个严重弊端，就是在国家政权机器里出现了一个特权阶层——士族，他们控制着人才的选择权，家族世代当官，而且还都是高官，出现了一些三世三公、四世三公的豪门望族。这些豪门望族相互勾结，把持朝政，成为政府中一股举足轻重的力量。这样一方面堵塞了其他人当官的机会，另一方面也不利于皇帝的集权，因此皇帝和社会民众对此普遍不满。到隋朝时，开始推行科举制，也就是通过考试选择官员，这样使得广大中小地主也可以参与到政权中来，皇帝也重新掌握了官员的选择权。经过唐宋的发展，科举选士已成为十分成熟的人才选拔制度，出现了进士科、明经科、明法科等许多科目，还有武举专门选拔军事人才。这一时期考试的内容也是比较多样的，如唐朝时还要考诗赋，因此读书人都要学会写诗，正因为如此，唐朝是中国历史上诗歌发展最辉煌的时期。宋朝以王安石“三新经义”为依据，对策试士，这种考试的内容和形式已接近后来的八股文了。元朝科举考试办法基本上沿袭两宋的做法。不过，直到明朝才正式规定了八股取士，科举考试进入了八股文时代。