有游泳项目。
与今天的奥运会游泳比赛所不同的是，第一届夏季奥运会的游泳比赛是在比雷埃夫斯海岸附近，日尔湾的海面上举行的。有近20,000名观众被事先通知要去观看比赛。
游泳的所有4个项目都是在4月11日举行的。对于来自匈牙利的阿尔弗雷德·哈约什而言，这意味着他只能参加其中的两个项目，因为每个项目之间的休息时间都非常的短。然而他最终还是获得了100米和1200米自由泳的冠军。
游泳比赛的第三项是500米的自由泳，来自英属澳大利亚的保罗·纽曼最终以领先第二名近1分半的差距夺冠。除此之外，还有一场为海军水手安排的100米自由泳比赛。希腊皇家海军的约安尼斯·马洛金尼斯最终胜出。
1896年雅典奥运会是自罗马帝国皇帝狄奥多西一世在公元393年废除古代奥运会以来的第一届现代奥林匹克运动会，于1896年4月6日至4月15日在希腊雅典举办。1894年6月，经过巴黎国际体育会议协商，确定古奥运会发源地奥林匹亚附近的历史名城雅典承办首届现代奥运会。
当时的希腊并没有太多的举办此类运动会的经验，且一度遇上财政困难，但组委会还是按时做好了各项准备工作。尽管当时的运动员水平无法同今日相比，但在当时举办如此大规模的国际性体育赛事却是极少有。
