西方對于制度的研究最早始于古希臘，公元前5世紀，古希臘學者們就提出并考察了諸如社會起源、法律本質、道德基礎、行動的個體與社會秩序等一系列與制度相關的問題。亞里士多德在其社會觀中闡述了非理性因素與社會制度的聯系，他認為，各種社會制度導源于人的基本本能，本能產生、決定各種集團和社團，最終形成各種社會關系。

馬克思主義則把制度置于人類社會產生、發(fā)展和變遷的大環(huán)境中去考察，使得對制度的研究建立在歷史唯物主義的基礎之上。馬克思在《德意志意識形態(tài)》中寫道：“現存的制度只不過是個人之間迄今所存在的交往的產物”，這個簡單的定義抓住了制度的核心特征——交往的產物，深刻地揭示了制度作為社會性關系范疇的本質。馬克思進一步指出：“人們在生產中不僅僅影響自然界，而且也互相影響。他們只有以一定的方式共同活動和互相交換其活動，才能進行生產。為進行生產，人們相互之間便發(fā)生一定的聯系和關系；只有在這些社會聯系和社會關系的范圍內，才會有他們對自然界的影響，才會生產。”這些“社會聯系和社會關系”所蘊涵的規(guī)范性內容，其表現形態(tài)就是制度。馬克思主義所關注的制度，主要是從社會形態(tài)的角度出發(fā)，經常使用的是“社會制度”、“經濟制度”、“政治制度”這樣的概念。

由于對制度基本要素的關注點不同，古今中外的學者對于“制度”概念的界定也不盡相同，其中，在經濟學說史上對制度進行專門研究并將其貫穿于經濟思想始終的，即“制度主義學派”，按其分析層次、環(huán)境及時間順序的不同，“制度主義學派”又可分為“舊制度主義”和“新制度主義”兩大陣營。

舊制度主義學派的奠基人凡伯倫，在1899年最早將制度定義為“實質上就是個人或社會對有關某些關系或某些作用的一般思想習慣，而生活方式所構成的是在某一時期或社會發(fā)展的某一階段通行的制度的綜合，因此,從心理學的方面來說，可以概括地把它說成是一種流行的精神態(tài)度或一種流行的生活理論”。舊制度主義學派的代表人物康芒斯則把制度解釋為“集體行動控制個體行動”。他認為：“經濟學研究的基本單位是交易，而交易有三種類型：買賣的交易、管理的交易和限額的交易，而制度是這三種類型的交易合在一起而成的經濟研究上的一個較大的單位，根據英美的慣例，這叫做‘運行機構’。這種運行機構，有業(yè)務規(guī)劃使得它們運轉不停；這種組織，從家庭、公司、工會、同業(yè)協(xié)會、直到國家本身，我們稱為‘制度’”。

新制度主義學派的道格拉斯•諾思則認為：“制度由一系列規(guī)則形式和規(guī)章形式的行為約束組成。而且，制度最終是由一系列道德的、倫理的和行為的規(guī)范組成的，這些規(guī)范限定了人的行動界限，并且制約著具體制定和實施的各種規(guī)則、規(guī)章的方式”（1984）；“制度是社會游戲的博弈規(guī)則，更規(guī)范的說是為決定人們的相互關系而人為設定的一些制約……用經濟學的術語來說，制度定義和限制了個人的決策集合”（1990）；同時，諾思也認為：“制度是人為設計出來構建政治的、經濟的和社會的互動關系的約束，由非正式的約束（獎懲、禁忌、習俗、傳統(tǒng)及行為準則）和正式的規(guī)則（憲法、法律、產權）組成”（1991）。舒爾茨則將制度定義為：“一種行為規(guī)則，這些規(guī)則涉及社會、政治及經濟行為”。拉坦則認為：“一種制度通常被定義為一套行為規(guī)則，他們被用于支配特定的行為模式的相互關系”。

1936年，凱恩斯的《就業(yè)利息和貨幣通論》出版，其經濟思想開始在歐美流行。二戰(zhàn)后，凱恩斯的追隨者補充和發(fā)展起來的凱恩斯主義，在西方國家20世紀40至60年代一直占有主導地位。但是到了70年代初，美國和西歐國家先后出現了生產過剩的經濟危機，凱恩斯經濟學無法解釋這些國家存在的種種嚴重的社會問題。在這樣的背景下，新制度經濟學為適應社會的需要而產生，它繼承了早期制度學派的傳統(tǒng)，并在制度研究方面有新的發(fā)展。新制度學派與早期制度學派的區(qū)別只是時代的差別。早期制度學派處在壟斷資本主義發(fā)展階段，新制度學派則處在壟斷資本主義進一步發(fā)展的時期，后者更加強調社會的權力結構，以及國家調節(jié)經濟的社會管理思想。