罗马尼亚第一次参加奥运会是1900年，当时派出一名运动员参加了飞碟多项射击项目的比赛。1924年法国巴黎奥运会上，罗马尼亚第一次派出了代表团参赛。罗马尼亚是东欧集团中唯一一个没有抵制1984年美国洛杉矶奥运会的国家。

步枪选手约瑟夫·西尔布在1952年芬兰赫尔辛基奥运会上为罗马尼亚赢得首枚金牌。之后的每届夏季奥运会上，罗马尼亚都至少有两金入账。

罗马尼亚的奥运传统项目是赛艇和体操，尤其是女子体操项目，是奥运会历史上在体操项目上最为成功的国家之一。罗马尼亚最成功的奥运选手是体操运动员娜迪娅·科马内奇。1976年加拿大蒙特利尔奥运会上，14岁的她就在团体赛的高低杠和平衡木项目上获得满分10分，创造了历史。在那届奥运会上，她最终获得了7次满分，在平衡木、高低杠及全能比赛中都获得了金牌，还夺得了一块自由体操的铜牌。4年后的苏联莫斯科奥运会上她续写着自己的辉煌，在平衡木和自由体操个人项目上摘得金牌，在全能项目上夺得一枚银牌。在1976年和1980年奥运会的团体项目中，她又收获了两枚银牌，这样在她的奥运生涯中共获得9枚奖牌。其他成功的罗马尼亚体操选手还有：2000年悉尼奥运会的全能项目中的金牌得主西蒙娜· 阿默讷尔（Simona Amanar），1988年韩国汉城奥运会三枚金牌得主达妮埃拉·希莉瓦斯，以及在2004年希腊雅典奥运会平衡木和自由体操个人项目中都获得冠军的克特利娜·波诺尔（Catalina Ponor）。

罗马尼亚的伊丽莎白·利帕是奥运历史上最杰出的赛艇选手之一。在她20年的运动生涯中共获得过5金2银1铜。她的第一枚金牌来自1984年奥运会的双人双桨无舵手项目。 2004年希腊雅典奥运会女子双人双桨无舵手的比赛中，她夺得了自己的最后一块奥运金牌，也是罗马尼亚队在该届奥运会获得的八枚金牌之一。

罗马尼亚还培养出很多优秀的田径选手，最突出的是中长跑选手加布里埃拉·紹博（Gabriela Szabo），他在2000年澳大利亚悉尼奥运会的5000米比赛中夺得了冠军。

各项目奖牌数

项目	金牌	银牌	铜牌	总数
田径	10	14	10	34
拳击	1	9	15	25
皮划艇-静水	10	10	14	34
马术-盛装舞步	0	0	1	1
马术-场地障碍	0	1	0	1
击剑	3	3	6	12
体操-竞技体操	23	19	24	66
体操-艺术体操	0	1	0	1
手球	0	1	3	4
柔道	0	0	3	3
赛艇	18	10	7	35
橄榄球	0	0	1	1
射击	5	4	5	14
游泳	3	2	4	9
排球	0	0	1	1
举重	2	6	3	11
摔跤-自由式	1	0	4	5
摔跤-古典式	6	8	13	27
总数	82	88	114	284

各届奖牌数

年份	金牌	银牌	铜牌	总数
1924	0	0	1	1
1936	0	1	0	1
1952	1	1	2	4
1956	5	3	5	13
1960	3	1	6	10
1964	2	4	6	12
1968	4	6	5	15
1972	3	6	7	16
1976	4	9	14	27
1980	6	6	13	25
1984	20	16	17	53
1988	7	11	6	24
1992	4	6	8	18
1996	4	7	9	20
2000	11	6	9	26
2004	8	5	6	19
总数	82	88	114	284