在大多数人的印象中，中国参加奥运会的历史是从1984年洛杉矶奥运会开始的，其实我们只是在那届奥运会上开始拿金牌了，自1928年起奥运赛场上就出现了中国人的身影。不过从最初的默默无闻，到后来的异军突起，再到2008奥运会的申办成功，我们终于真正融入奥运会的主流行列，这一路走得好难。
1928年，国际奥委会批准中国参加阿姆斯特丹奥运会，由于准备不足，中国只派出宋如海一人作为观察员出席，未参加比赛。
1932年，在洛杉矶举办第10届奥运会。中国代表团首次参赛，但因“九・一八”事变和政府对奥运会的漠不关心，经费短缺，最后在张学良将军的资助下代表团才得以成行。代表团一共6人，但运动员仅刘长春1名。因旅途劳顿，刘放弃了400米跑，在100米、200米预赛中，分列第五、六名，遭淘汰。但这次参赛行动挫败了日本侵略者企图以伪满洲国名义参赛的阴谋。
1936年柏林奥运会上，中国派出了由总领队王正廷，总教练马约翰组成的100多人的代表团，其中运动员69名，参加了田径、游泳、举重、拳击、自行车、篮球和足球6个大项的比赛。另外还派了一个武术表演队。但是运动员却未经挑选和训练，全部23名田径选手中，只有撑竿跳高选手符保卢一人通过了资格赛标准，他在跳过3.80米高度后被淘汰，与另外8名选手并列第17名。足球队首战输给了英国队后，失去了继续参赛的资格，篮球队尽管赢了法国队、秘鲁队，但也未能进入下一轮次的比赛，中国队最后惨败而归。
1952年7月1 7日，国际奥委会在赫尔辛基举行第47届会议，以33票对20票的多数通过了邀请中国运动员参加本届奥运会的决议。但由于蒋方代表的一再阻挠，中华全国总会收到邀请电时，离奥运会开幕还有几个小时。7月19日，周恩来总理做出批示：“要去! 正式比赛参加不上，但可以和芬兰运动员进行比赛，多做友好工作，要通过代表团的工作和运动员的精神面貌去宣传新中国。”新中国首次匆匆组队参加奥运会，到达赫尔辛基时，许多项目的比赛已经结束。中国的三支球队同芬兰的球队进行了4场比赛。吴传玉参加了100米仰泳比赛，成绩为1分12秒3。这是新中国运动员在奥运会上写下的第一个纪录。
1960年罗马奥运会十项全能比赛中，竞争在3名种子选手中进行，他们是美国的拉・约翰逊、苏联的瓦・库兹和中国台湾运动员杨传广。这3位选手并称为“十项全能三杰”。 “三杰”相逢罗马，竞争立即白热化。比赛中，杨传广与约翰逊咬得很紧，最后，约翰逊以8392分打破奥运会纪录夺得金牌，杨传广获银牌，成绩是8334分。他是中国第一个获奥运会奖牌的人，也是亚洲在这次田径赛中惟一获得奖牌的选手。
1979年11月26日，经国际奥委会表决通过，恢复了中华人民共和国在国际奥委会中的合法席位。
1984年洛杉矶奥运会，中国代表团运动员达225人，参加了除足球、曲棍球、拳击、马术、现代五项以外的其余16个大项的比赛。这与52年前刘长春孑然一身出现在洛杉矶赛场上形成鲜明对比。射击比赛中，中国射手许海峰成为中国自1932年参加奥运会以来的第一个奥运会金牌得主。比赛结束以后，从靶场出来到休息室，短短一百米的距离，许海峰却走了将近20分钟，各国记者把他团团围住，争相采访这位第一枚金牌获得者。“在体操比赛中，中国选手李宁在自由体操、鞍马、吊环中独得3枚金牌。女排决赛时，中美双方全力拼搏。当第三局比分打成14:14时，中国女排教练袁伟民突然请求换人，美国队员以为中国队使用了什么秘密武器，心理压力增大。她们连吃两球，中国队乘胜猛攻，最后实现了“三连冠”的夙愿。事后，许多专家认为，中国队换人，既是战术上的胜利，更是心理上的胜利。本届比赛中国队共获得15枚金牌、8枚银牌和9枚铜牌。自此，中国健儿重新回到奥运家庭中展露身手。
| 
