Nispeten genç bir spor olmasına (tenisten daha yeni vebasketboldan biraz daha eski) rağmen, masa tenisinin kaynağı hiç bir zaman kesinolarak bilinmemektedir. .
Bu sporun salon tenisi adıyla bilinen en eski şekli 1880 liyıllarda Hindistan ve Güney Afrika'daki İngiliz ordu subayları tarafındanoynanırdı. Puro kutularının kapaklarını raket, yuvarlatılmış şarap şişesimantarlarını da top olarak kullanırlardı. File olarak da kitaplarıkullanıyorlardı.
1890 lı yıllarda İngiltere'de bu oyunun diğer versiyonlarıgeliştirildi. Bunlar "whiff whaff" ve "gossima" gibi değişikisimlere sahiptiler ve Parker Brothers firması masaya kurulabilen portatif net,dışı file kaplı küçük bir top ve minyatür raketlerden oluşan salon tenisikitleri satmaya başladı.
1900 yılında Amerika'yı zayaret eden İngiliz James Gibb, dönerkenyanında bazı içi boş selüloid toplardan getirdi ve arkadaşlarıyla salon tenisinibu topları kullanarak oynamaya başladı. Gibb, topun rakete ve masaya çarptığızaman çıkardığı sesi temsil eden "ping pong"ismini kulanmaya başladı.
Fakat 1901 yılında İngiliz spor ekipmanları üreticisi olan John Jacques "Ping Pong"ismini kendi adına tescil ettirdi ve bu ismin Amerika haklarını Parker Brothersfirmasına sattı. Onlar da yeni kitlerini bu isimle çıkardılar.
Bir başka İngiliz, E. C. Goode, 1902 yılında tahta raketininyüzeyini pürüzlü lastikle kaplayarak topa falso vermeyi başardı. Aynı yılİngitere'dePing Pong Federasyonu kuruldu fakat isim hakkının Parker Brothers firmasındaolmasından ve dolayısıyla ekipmanların çok pahalıya çıkmasından dolayı 3 yılsonra kapandı.
Buna rağmen diğer üreticilerin genel bir isim olan table tennis(masa tenisi) adı altında sattıkları ekipmanlarla bu spor İngiltere ve Avrupa'dasessizce yaygınlaştı. 1921 yılında İngiltere'de yeni bir masa tenisi federasyonukuruldu. Peşinden de 1926 yılında İngiltere, İsveç, Macaristan, Hindistan,Danimarka, Almanya, Çekoslovakya, Avusturya ve Galler'in Berlin'de yaptıkları toplantıda Fédération Internationale de Tennis deTable (International Table Tennis Federation - Uluslararası Masa TenisiFederasyonu) kuruldu.
İlk dünya şampiyonası 1927 yılında Londra'da yapıldı. Bu yıldan2. dünya savaşına kadar tüm şampiyonalar Macaristan'ın egemenliği altında geçti.Bu zamanların en iyi oyuncuları bayanlarda yedi dünya şampiyonası kazanan Macar Maria Mednyanszkyve beş defa dünya şampiyonu olan yine Macar Viktor Barna'ydı. Çekoslovakya veRomanya'lı sporcular da bazı şampiyonaları kazandılar.
Amerika Ping Pong Federasyonu 1930 yılında kuruldu fakat sadeceParker Brothers firmasının ekipmanları kullanılabildiği için üye sayısı fazlaolamadı. 1933 yılında iki rakip federasyon daha kuruldu. Bunlar U.S. Amatör MasaTenisi Federasyonu ve Ulusal Masa Tenisi Federasyonuydu. Bu üç gurup 1935yılında birleşerek U. S. Masa Tenisi Federayonu adını aldı. 1994 yılında daadını U.S.A. Table Tennisolarak değiştirdi.
İkinci dünya savaşından sonra bir süre daha orta Avrupalıoyuncuların egemenlikleri sürdü. 1953 yılından itibaren Asya'lı oyuncularınegemenliği başladı. Asya'lı yıldız oyuncuların aniden ortaya çıkmalarının birsebebi Japon Horoi Satoh'ın 1952 yılında ilk defa kullandığı süngerlilastiklerin kullanılmaya başlamasıdır. Bu yeni malzeme oyunu hızlandırdı veoyuncuların topa daha fazla falso vermelerine imkan sağladı.
Asya'lı oyuncular "Penholder tutuşu" adı verilen ve raket sapınınbaşparmak ile işaret parmağı arasında tutulduğu bir tutuş şekli geliştirdiler. Bu tutuş şeklinde her tür vuruş için raketin aynı yüzünü kullanıyordu (artık bututuş ile raketin her iki yüzünü de kullanan oyuncular vardır). Bu tutuş bugünbir çok üst seviye uluslararası oyuncu tarafından kullanılmaktadır.
1988 yılında masa tenisi erkek ve bayanlarda tekler ve çiftlermüsabakalarını içeren olimpik bir spor haline geldi.
