1893年春,在顾拜旦积极建议下,由法国田径协会联合会出面,邀请一些国家的知名人士在巴黎举行了一次国际性体育会议,着重讨论了复兴奥运会的问题。在这次会议上,顾拜旦复兴奥运会的构想得到了一些国家的明确支持。但由于不少国家表现冷淡,会议没有达到预期目的。但这却有了一个良好的开端。翌年一月,顾拜旦草拟了复兴奥运会的具体步骤和需要探讨的10个问题,致函各国体育组织和团体,广求意见。与此同时,顾拜旦四处奔走,寻示支持。在得到了许多国家的知名人士的大力支持下,他再度致函各国,提出了再次举行国际体育会议的建议,向各国体育组织发出了参加国际协商,共同重建奥运会的恳请。但是一些国家的体育组织仍然对顾拜旦的建议反应冷淡,有的甚至表示反对。有志者事竟成,为了寻求支持,顾拜旦把目光转向政界。他和他的支持者通过信函以及各国驻巴黎使馆,同各国政治家、社会活动家频繁接触,并最终取得希腊、比利时、瑞典、挪威和俄国的不少头面人物的支持,一些国家的驻法使节以及教育界、科学界名流表示愿意参与国际协商,政界和社会名流的支持,影响了很多国家体育组织的态度。美国、英国、俄国、瑞士、西班牙、意大利、比利时、荷兰和希腊等国的39个体育组织都表示将派代表出席大会。
1894年6月16日,这是现代奥林匹克运动史上一个值得纪念的日子。这天,"国际体育运动代表大会"在巴黎索邦神学院(巴黎大学前身)隆重开幕。到会代表79人,他们代表着12个国家的49个体育组织,法国驻比利时大使德?库尔舍被选为会议主席,顾拜旦主持大会开幕式,在有2000人参加的开幕式上,法国著名古希腊文化专家切奥多尔?莱拉赫发表了演说,巴黎国家歌剧院合唱团为大会演唱了阿波罗颂歌,唤起了与会者对古奥运会的神往。
大会先讨论了参赛运动员的业余和职业化问题。经过争论,决定遵循"业余运动"的原则,并通过了关于业余和职业运动员的决议。而后,会议讨论了复兴奥运会的问题,并通过了一个重要文件--《复兴奥林匹克运动会》的决议。6月23日,大会通过成立"国际奥林匹克委员会"的决议,并决定由奥运会举办国的国际奥委会委员轮流担任国际奥委会主席。6月23日,这一天,对奥林匹克运动、对世界体育运动的发展,都具有划时代的意义。不少国家把这一天作为体育节日,我国也于1986年将这天定为奥林匹克日。巴黎国际体育会议还批准了顾拜旦制订的第一部《奥林匹克宪章》。宪章强调了奥林匹克远动的业余性,规定在奥运会上只授予优胜者荣誉奖,不得以任何形式发给运动员金钱或其他物质奖励。大会选举希腊诗人维凯拉斯为国际奥委会第一任主席,顾拜旦为秘书长。大会还选举了14名国际奥委会委员,他们是:卡洛(法国)、布托夫斯基将军(俄国)、巴利克将军(瑞典)、斯龙教授(美国)、可姆普特希尔勋爵(英国)、赫贝尔特(英国)、费伦茨
?凯万尼(匈牙利)、古特一雅尔科沃斯基(波希米亚)、苏比亚尔(阿根延)、卡夫(新西兰)、卢克齐?帕利伯爵(意大利)、放?布齐伯爵(比利时)、丹德时亚?卡拉法大公(意大利)、黑衍哈特(德国)。会议规定法语(现为英、法两种语言)为国际奥委会法定语言。大会还决定沿袭古奥运会传统,每四年举行一次运动会,还规定奥运会的比赛项目为田径、水上运动(包括帆船、划船、游泳)、击剑、摔跤、拳击、马术、射击、体操、球类运动等。第一届奥运会原定于1900年于巴黎举行,后来考虑希腊为古代奥运会发源地,在希腊举行比在巴黎意义更重大些,顾拜旦尊重了大家的意见。大会决定把第一届会期改在1896年,鉴于古代奥运会遗址奥林匹亚已成了一片废墟,会址改设在希腊首都雅典。
1894年7月国际奥委会对奥运选手的业余资格作出详细规定,"业余运动员"不能参加有金钱奖励的比赛以及有职业运动员参加的比赛,以体育为业的体育教师或教练不能算作业余运动员。
在国际奥委会的积极努力下,现代奥林匹克运动史上第一届奥运会于1896年4月6日在雅典胜利举行。来自13个国家的295名运动员参加了田径、游泳(包括跳水)、举重、摔跤、体操、自行车、射击、击剑等项目的竞赛。第一届奥运会虽然还很不正规,但奥林匹克运动终于登上了历史舞台。
国际奥委会的成立和第一届奥运会的召开,标志着奥林匹克运动的诞生。