在賓大學習期間，梁思成深刻地認識到：建築是民族文化的結晶。他對建築史這門學科產生了濃厚的興趣，為之狠下功夫。他發現，埃及、希臘、羅馬及歐洲諸國的古建築均得到了系統的整理，並有了研究成果，而我們這個有著悠久文化歷史的古國，竟沒有一部自己的建築史。正當他茫然之際，收到了父親寄來的一部重新再版的古籍 ── 《營造法式》，梁思成不禁喜出望外。可是，翻閱此書，他又轉入了迷惑，因為書中的內容他根本無法讀解。他曾形容《營造法式》是一本“天書”。我國在宋代就對建築有了這樣系統的論述，可見中國建築發展到宋代已經成熟。他不能迴避，決心一定要讀懂這本“天書”，立志要解開中國建築發展之謎。於是，他決定再入哈佛大學的研究生院去深造，以“中國宮室史”為題攻讀博士論文。他在哈佛用了三個月的時間讀遍了所有關於中國建築的資料，可是利用這些有限的東西無法完成他的論文。他必須回國實地調查尋找中國的古建築。那個年代，中國建築尚未引起西方學者的注意，但日本學術界已開始注意研究中國古建。梁思成感到：如果我們自己不研究中國建築史，那麼這塊學術領地遲早會被日本學術界所佔領；中國建築史一定要由中國人來書寫。懷著這樣的雄心壯志，他與導師約定：自己先回到祖國去實地調查古建築，兩年後提交畢業論文。

1928年，他在東北大學短暫地逗留了一年多就回到北平加入中國營造學社，開始了中國建築史的研究。

梁公認為：要研究古代建築應先從近代開始。因此，他以清故宮的建築為實例，以清工部《工程做法則例》為教材，拜老工匠為師，參考了大量的民間有關建築估算做法的口訣、手抄秘本等進行研究。兩年後，他已諳熟了清式建築的做法，並用現代科學的表達方式寫出了一本現代讀物 ── 《清式營造例則》。

完成了《清式營造例則》的寫作之後，梁思成開始了堅苦的漫長的古建築考察之路。