這段慷慨陳詞並非人人都同意。中共之外的歷史學者對這份主張提出許多質疑，之中不少來自台灣。他們認為台灣相對晚近才被中國納為領土，兩岸只共享了最多幾百年的歷史，並非中國官方描述暗指的五千年。歷史學者鄧津華在其研究清治時期中國人來台旅遊誌的著述中觀察到，「中國」遲至明朝（一三六八年～一六四四年）都還被視為是自然地理特徵所畫分出的地域。台灣海峽是其中一個特徵，讓台灣處於中國疆界之外。此外，如歐陽泰在其《福爾摩沙如何變成台灣府？》一書中的敘述，明朝也承認歐洲國家對該島管轄權達數十年之久。

鄧津華的參考資料同樣顯示清（一六四四年～一九一一年）初官員鄙棄台灣之意強烈。有云：「台灣如海外丸泥，不足加中國之廣；裸體文身之蕃，不足與共守；日費天府金錢於無益，不若遷其人而棄其地。」今日北京所主張繼承的領土規模與歷史上接近現代的清朝盛世相仿。但在當時，清朝這個由關外滿族所建立的王朝，並不認為自己是個屬於中華民族的民族國家。

面對懷疑論者，中共歷史學家自有一套回應，其中包括據稱能證明台灣從極早期就屬於中國的文獻。學者間的攻防超越學術範疇。海峽兩岸的人士都會利用在他們眼中可以佐證其政治立場的歷史資料。很多支持獨立的台灣人認為「證明」大陸政權只短暫兼併台灣很重要。而相反地，統一支持者則是徵集台灣自上古時期即屬中國一部分的證據。兩造眼中的歷史事實與解釋雖然不盡相同，但雙方卻都認為要以過去決定未來──而這個命題本身就有待商榷。

對中國人而言，台灣在歷史上是中國領土已足以說明台灣於今日也屬於中國。但對絕大多數台灣人來說，這個見解不具說服力。他們認為政治認同是會改變的，也相信活著的人的所好、所向才值得重視。基於上述傾向，英國學者休斯在其書《台灣與中國民族主義》中稱台灣為「後民族主義者」。一篇二○○四年刊載於「新新聞」雜誌的文章也捕捉到這種觀點，作者李拓梓以冰箱為譬喻，描述他對大陸的感覺。他拿他父母那又大又滿是食物的冰箱，與自己公寓裡那又小又幾乎是空的小鮮綠做比較：

如果台灣是小鮮綠，其實，中國就是那個大冰箱。大冰箱物產豐隆，可是我不太敢去拿裡面的東西，因為那不再是我的東西；而且，我也不需要一台大冰箱，因為沒這個需要。我更不會去和別人說，我房間的小鮮綠，其實是一台大冰箱；或者說這個小鮮綠沒什麼，以前我家的冰箱有多大、裡面食物有多多。我知道，就算爸媽還是會覺得那個家是我們的家，但獨立生活多年，家已經不可避免地逐漸變成「爸媽家」了。

大陸人認為歷史本應如此，而台灣人相信國界應要與時俱進，以民之所好為依歸，反映出被統治者的意見，這顯現出兩岸巨大的意識型態鴻溝。就像先前引用的中共白皮書寫道：

台灣分裂勢力以「主權在民」為藉口，企圖以公民投票方式改變台灣是中國一部分的地位，這是徒勞的。（……）對台灣的主權，屬於包括台灣同胞在內的全中國人民，而不屬於台灣一部分人。（……）台灣的前途只有一條，就是走向與祖國大陸的統一，而絕不能走向分裂。任何人以所謂公民投票的方式把台灣從中國分割出去，其結果必將把台灣人民引向災難。

恢復中國的正統地位

第二個讓中共堅決要兼併台灣的理由也是基於歷史，但強調的卻是不同的歷史事實。這種論點認為台灣自大陸分裂是十九世紀末、二十世紀初中國各地遭受侵略、殖民，那段積弱不振的年代所遺留下的產物。依照這個邏輯，中國歷史中的「主旋律」就是國家統一與國家榮譽。想要重返正軌，就要終結中國積弱晚清所遺留那碩果僅存、背離常規的後遺症：台灣自大陸分裂。這番論據出現在《台灣問題與中國的統一》白皮書之中：

中國近代史是一部被侵略、被宰割、被淩辱的歷史，也是中國人民為爭取民族獨立，維護國家主權、領土完整和民族尊嚴而英勇奮鬥的歷史。台灣問題的産生與發展，都與這段歷史有著緊密的聯係。由於種種原因，台灣迄今尚處於與大陸分離的狀態。這種狀態一天不結束，中華民族所蒙受的創傷就一天不能癒合，中國人民為維護國家統一和領土完整的鬥爭也一天不會結束。