1862年，美国国会通过了总统林肯于南北战争期间签署莫雷尔法案。这项革命性立法是美国高等教育史上最早也是最重要的法案之一，它对美国乃至全世界高等教育的发展都产生了深远的影响。

1870年，鉴于相邻州份（例如宾夕法尼亚、印第安纳、密歇根等）都有至少一所历史悠久的综合性大学，而当时工业经济比重极高且人口众多，有号称“发明者故乡”的俄亥俄州内仅存在一些不成气候的私立院校，同时也为了莫雷尔法案在州内的顺利通过，时任州长、第19任美国总统拉瑟福德·伯查德·海斯组织成立俄亥俄州农工学院 (Ohio A&M College) ，在首府哥伦布市(Columbus)建立，校址最终定在了市中心以北4英里的一片土地上。

1873年9月7日，学校正式开放课程予大众。著名地理学家（后任美国科学促进会主席） Edward Orton Sr. 被任命为首任校长。首批共24名学生入学，其中有3人是女学生。

与那些已有传统顶尖大学的州份（宾夕法尼亚、密歇根等）在法案中新建的赠地学院大都成为了“专一的农学院”，直到二战结束后才逐步发展成为州内第二所主要大学不同的是，当时人口众多却一所顶尖高等院校都没有的俄亥俄州决定直接将这所以赠地学院之名建立的高等学府变为他们自己的顶尖公立大学。有鉴于此，学院从一开始就在框架上被设计成一所真正意义上的综合性大学。创立之初的学院开设了一套十分宽广的人文类课程，例如艺术鉴赏、古典文学和外国语等等。与这种做法相类似的赠地学院还有于1867年成立、1885年更名的伊利诺伊大学。

1878年，由于事实上并不以农学和工学为主要的教学学科，开课仅5年的学院旋即被政府更名为俄亥俄州立大学（The Ohio State University）；凭借着着19世纪中叶至20世纪前期以俄亥俄州为最典型的前西北法令地区六个州份在全美政治、经济上举足轻重的中心地位，大学得以迅速发展。

1886年，大学首次颁发了硕士学位；1890年，大学首次颁发了博士学位。

1891年，大学成立了法学院（即今日的莫里茨法学院）。

1912年，大学加入十大联盟。

1914年，大学成立了医学院及附属医院。

1916年，大学加入当时仅19所成员、象征全美乃至全世界最顶尖高等院校联盟的美国大学协会，甚至早过布朗大学（1933年）、麻省理工学院（1934年）、杜克大学（1938年）等顶级私立院校的加入时间，使这所当时年轻的大学成为了史上最早加入美国大学协会的一批公立院校之一。这标志着大学从此进入了长达一个世纪的黄金时代。

同年大学的商业和新闻学院（即今日菲舍尔商学院的前身）与美国国内其他16所最顶尖的大学商学院联合发起成立了AACSB。一百年后的今日，能否通过三大认证之首AACSB认证已成为衡量一所商学院是否达到世界顶尖水平的最重要标志。

1922年，建造马蹄铁型的俄亥俄体育场，建成时为全球最大体育场（直到五年以后被死敌密歇根大学于安娜堡建立的密西根体育场超越）。至今以容纳人数计，仍为全球第五大体育场。

经过百年发展的俄亥俄州立大学在今天已经是全美规模最大的大学之一。百年来的毕业生中包括了4名诺贝尔奖得主，8位普利策奖得主，数十名奥运金牌得主；以及若干美国各州州长，驻外大使，众多参议员和国会议员，数名《福布斯400富豪榜》（Forbes 400）上全球各地最富有的人，以及数十名《财富》世界500强（Fortune Global 500）公司的首席执行官。毕业生自1933年第一次起至今，共计12次成为时代周刊封面人物（并且还不包括罗伊·利希滕斯坦的画作额外上了两次）。