這就引起了王正廷和施肇基的強烈不滿，在代表團中埋下了不和的種子。隨著和會的進行，代表團內部的矛盾也在不斷升級。

中國准備向和會提出回山東權利問題，但還沒來得及，日本先發制人，率先在五個大國的「十人會」上提出德國在山東的權益應直接由日本繼承。大會通知中國代表到下午的會上作陳述。代表團接到通知時已是中午。這對於中國代表團又是一個晴天霹靂。

經過一番周折，確定由顧維鈞代替王正廷出席。下午的會議作出決定，有關山東問題，由中國代表次日進行陳述，1919年1月28日，顧維鈞受命於危難，就山東問題作了一次縝密細致、暢快淋漓的發言，從歷史、經濟、文化各方面說明了山東是中國不可分割的一部分，有力地批駁了日本的無理要求。在他的雄辯面前，日本代表完全處於劣勢。各國首腦紛紛向他表示祝賀，顧維鈞在國內外一舉成名。這次雄辯在中國外交史上地位非凡，這是中國代表第一次在國際講壇上為自己國家的主權作了一次成功的演說。形勢對中國本來十分有利，然而，到了4月，變化陡生。因分贓不均。意大利在爭吵中退出了和會。日本借機要挾：如果山東問題得不到滿足，就將效仿意大利。為了自己的利益，幾個大國最終決定犧牲中國的合法權益，先後向日本妥協，並強迫中國無條件接受。這一事件點燃了「五四運動」的火種。

1919年1月28日，美、英、法、日、中國在巴黎討論中國山東問題。戰敗後德國將退出山東，日本代表牧野先生卻要求無條件地繼承德國在山東的利益。中國代表顧維鈞聽了，站起身面對其他四周代表問道：「西方出了聖人，他叫耶穌，基督教相信耶穌被釘死在耶路撒冷，使耶路撒冷成為世界聞名的古城。而在東方也出了一個聖人，他叫孔子，連日本人也奉他為東方的聖人。牧野先生你說對嗎？」牧野不得不承認：「是的。」顧維鈞微笑道：「既然牧野先生也承認孔子是東方的聖人，那么東方的孔子就如同西方的耶穌，孔子的出生地山東也就是東方的聖地。因此，中國不能放棄山東，正如西方不能失去耶路撒冷一樣！(chinacannotmissshandongassameasthewestworldcannotmissjerusalem)」美國總統威爾遜、英國首相勞合喬治和法國總理克里孟梭巴黎和會的三巨頭聽完顧維鈞擲地有聲的聲明，一齊走上前握住他的手，稱他為中國的「青年外交家」。

面對如此現實，代表團心灰意冷，名存實亡，有的代表離開了巴黎，團長陸征祥住進了醫院。和會最後一段時間里，顧維鈞獨自擔當起了為中國作最後努力的職責，一直堅持到和約簽訂前的最後一刻。然而，不管顧維鈞如何努力，都沒有結果，中國的正當要求一再被拒絕。保留簽字不允，附在約後不允，約外聲明又不允，只能無條件接受。如此情況下，顧維鈞感到：退無可退，只有拒簽，表明中國的立場。他把這一想法匯報給陸征祥，陸征祥同意了他的意見。於是，1919年6月28日，當簽約儀式在凡爾賽宮舉行時，人們驚奇地發現：為中國全權代表准備的兩個座位上一直空無一人。中國用這種方式表達了自己的憤怒。簽約儀式的同時，顧維鈞乘坐著汽車經過巴黎的街頭。他在回憶錄中說：「汽車緩緩行駛在黎明的晨曦中，我覺得一切都是那樣黯淡--那天色，那樹影，那沉寂的街道。我想，這一天必將被視為一個悲慘的日子，留存於中國歷史上。同時，我暗自想象著和會閉幕典禮的盛況，想象著當出席和會的代表們看到為中國全權代表留著的兩把座椅上一直空盪無人時，將會怎樣地驚異、激動。這對我、對代表團全體、對中國都是一個難忘的日子。中國的缺席必將使和會，使法國外交界，甚至使整個世界為之愕然，即使不是為之震動的話。」

這次拒簽在中國外交的歷史中間，具有里程碑式的意義。中國第一次堅決地對列強說「不」，終於打破了「始爭終讓」的外交局面，最後沒有退讓。這也是中國外交勝利的起點。以後，中國一步步奪回了喪失的主權。

巴黎和會懸而未決的山東問題，最終在1921年華盛頓會議上得到了解決。經過36次談判，中日簽署了《解決山東懸案條約》及附件，日本無可奈何地一步步交出了強占的山東權益。在這次會議上負責山東問題並最終虎口奪食的，是33歲的顧維鈞。