Początków tenisa można by doszukiwać się jeszcze w starożytności. W Grecji, Rzymie, Egipcie, Persji czy Arabii bardzo popularna była gra z piłką, w której odnaleźć można było także elementy tej dyscypliny.
We wczesnym średniowieczu gra ta została zapomniana, ale podobno w X wieku francuski trubadur miał spopularyzować na dworze podobną zabawę. W wiekach XIV i XV nazywano ją "jeu de paume". W tym okresie przedostała się też przez Kanał la Manche do Szkocji, gdzie znana była jako "caitchspeel".
W wieku XIX zaczęły powstawać zręby nowoczesnego tenisa, a największy udział w stworzeniu jego podstaw mieli Brytyjczycy. W 1858 roku na Wyspach stworzono kort o kształcie i wymiarach zbliżonych do dzisiejszych, a podstawy regulaminowe stworzył major Winkfield, który po raz pierwszy zastosował punktację w gemie: 15, 30, 40. Około 1870 roku w tenisa zaczęto grać w Australii, a cztery lata później rozegrano pierwszy turniej w Stanach Zjednoczonych.
Tenis wszedł do programu pierwszych nowożytnych igrzysk w Atenach. Historycznym mistrzem olimpijskim w tej dyscyplinie został Irlandczyk - grający w barwach Wielkiej Brytanii - John Boland. Już w 1900 roku w Paryżu po raz pierwszy o medale walczyły panie.
Po kolejnych igrzyskach w Paryżu, w 1924 roku, tenis zniknął z programu olimpijskiego. Władze MKOl uznały bowiem, że występy zawodników otrzymujących pieniądze za grę nie mogą mieć miejsca w imprezie, której celem jest niekomercyjna rywalizacja sportowa.
Kibice tenisa musieli czekać ponad 60 lat - do 1988 roku - na przywrócenie tej dyscypliny do grona sportów olimpijskich. Decyzję o jej włączeniu do programu igrzysk w Seulu podjął przewodniczący MKOl Juan Antonio Samaranch, wyrażając jednocześnie zgodę na udział w zawodach olimpijskich tenisistów i tenisistek zrzeszonych w zawodowych federacjach Association Tennis Professionals (ATP) i Women's Tennis Association (WTA).
Począwszy od Seulu (1988) w igrzyskach brały udział gwiazdy światowego tenisa, a złote medale wywalczyli m.in. Niemka Steffi Graf (1988), Amerykanka Jennifer Capriati (1992), jej rodaczka Venus Williams (2000), a w 2012 roku w Londynie najlepsza była jej młodsza siostra Serena. U mężczyzn mistrzostwo olimpijskie zdobyli m.in. Szwajcar Marc Rosset, Amerykanin Andre Agassi, a w 2016 roku w Rio de Janeiro triumfował Brytyjczyk Andy Murray.