此后，胡惟德先后担任外务部右丞、驻日钦差大臣、海牙国际法院中国委员、外务部左侍郎兼税务大臣帮办等职。辛亥革命爆发后，胡惟德出任袁世凯内阁外务部副大臣署理外务部大臣，位居外交决策中枢地位。

民国首任外交部次长

1912年1月，中华民国成立。2月12日，胡惟德以外务部大臣身份代表袁世凯，率领民政大臣赵秉钧、陆军大臣王士珍等，前往养心殿参加清王朝最后一次朝见皇帝仪式，接受清廷退位诏书，成为清廷退出历史舞台的见证人。3月，袁就任中华民国临时大总统，以唐绍仪为内阁总理的第一届北京政府成立。

巴黎和会虽然解决了欧洲列强间的分赃问题，但远东地区特别是中国问题，各国之间尤其是美、日之间利益划分问题却没能解决。于是，在美国操纵下，1921年11月~1922年2月，在美国华盛顿召开了著名的“华盛顿会议”。北京政府派出了以施肇基为首席代表、顾维钧与王宠惠为全权代表、有130余人组成的庞大代表团。胡惟德虽未与会，但作为与当事国日本联系的官方代表，他及时将日本关于华盛顿会议的态度、政策电告政府，有助于形成北京政府的对日决策。而且，他还随时向政府就中日问题提供建议和咨询。中日最终就山东问题签署《中日解决山东悬案条约》，使拖延八年之久的山东问题得以解决。

1922年6月，北京政局变故，胡惟德被免职回国待命。1923年5月，北洋政府任命胡惟德为外交委员会副委员长。

政治生涯顶峰

上世纪20年代中期，南方的国民革命军展开北伐，北洋政府的统治处于风雨飘摇之中。在谢幕前的一刻，军阀、政客拼命抓住机会，争相亮相，造成北洋政府内阁更替频繁，也为胡惟德这样的外交官登上权力顶峰提供了机会。

1926年3月，新上任的北洋政府国务总理贾德耀组阁，胡惟德再次担任外交总长，并兼任关税特别会议全权代表。就在贾德耀组阁之时，冯玉祥国民军与奉军作战打响。期间，两艘日本军舰护卫奉系军阀军舰进入天津大沽口，炮击国民军。国民军开炮自卫还击，将日本军舰逐出大沽口。事后，日本认为国民军破坏了《辛丑条约》，与英、美等八国向段祺瑞执政府发出最后通牒，提出拆除大沽口国防设施的要求，并限令48小时内答复。列强的强权与蛮横，引发了北京学生、市民等在**举行声势浩大的国民大会，声讨列强的罪行。但是，段祺瑞执政府丧心病狂，血腥制造了“三一八”惨案。4月9日，冯玉祥领导的国民军发动政变，驱逐段祺瑞。北京政府处在混乱之中，由外交总长胡惟德、财政总长贺德霖、教育总长胡仁源三人暂时维持，欧美人士称之为“三H政府”。20日，段祺瑞宣布下野，任命胡惟德兼署国务总理并摄行临时执政职权。这是胡惟德政治生涯的顶峰。但胡惟德以年事已高，只同意以代理身份维持局面。5月13日颜惠庆组阁，他辞去了一切职务。

1927年1月，胡氏复任顾维钧内阁内务总长，但到3月底便拒不到部办公，自行宣告辞职。1928年5月，胡惟德第四次连任海牙国际法院常设仲裁法院仲裁员，为他外交职业生涯画上了句号。