Trybunał Arbitrażowy ds. Sportu przy PKOl rozpoczął działalność 17 listopada 1994 r. Jego struktura oraz zasady działania zostały ukształtowane na wzór Trybunału Arbitrażowego do Spraw Sportu z siedzibą w Lozannie.

Na mocy art. 40 ustawy z dnia 18 stycznia 1996 r. o kulturze fizycznej (Dz.U. 1996 Nr 25, poz. 113) Trybunał zyskał podstawę ustawową. Od samego początku Trybunał działał jako stały sąd polubowny. Pierwotnie Trybunał rozpoznawał skargi na decyzje dyscyplinarne lub regulaminowe właściwych organów polskich związków sportowych jedynie na zasadach określonych w statutach polskich związków sportowych.

W 2001 r. (Dz. U. nr 102, poz. 1115) Trybunał uzyskał kompetencję do rozpoznawania skarg na decyzje regulaminowe lub dyscyplinarne polskich związków sportowych, niezależnie od tego, czy przepisy wewnątrzzwiązkowe przewidywały zaskarżenie wydawanych decyzji do Trybunału.

W nowelizacji z 15 kwietnia 2005 r. (Dz. U. Nr 85, poz. 726) ustawodawca zadecydował, że w Trybunale zasiadać będzie 24 arbitrów, których wówczas powoływali w równej liczbie minister właściwy do spraw kultury fizycznej i sportu, Zarząd Polskiego Komitetu Olimpijskiego i Prezes Polskiej Konfederacji Sportu. Wskazana nowelizacja przyznała również stronom prawo do wniesienia skargi kasacyjnej na orzeczenie dyscyplinarne lub regulaminowe wydane przez Trybunał w przypadku rażącego naruszenia przepisów prawa lub oczywistej niesłuszności orzeczenia.

W 2005 roku przepisy dotyczące Trybunału zostały przeniesione, bez większych zmian, do ustawy o sporcie kwalifikowanym (Dz. U. 2005 Nr 155, poz. 1298).

25 czerwca 2010 r. uchwalona została ustawa o sporcie (Dz. U. 2010 Nr 127, poz. 857), która uchyliła ustawę o sporcie kwalifikowanym w całości. W pierwotnym brzmieniu ustawy o sporcie nie przewidziano jednak żadnych przepisów dotyczących Trybunału, co oznaczało, iż utracił on kompetencję do rozpoznawania sporów wynikających z zaskarżenia decyzji regulaminowych i dyscyplinarnych polskich związków sportowych, za wyjątkiem sytuacji, w których kompetencja Trybunału wynikała z wewnętrznych przepisów statutowych związku sportowych lub zgodnej woli stron poddania sprawy pod osąd Trybunału.

Przyjęte przez ustawodawcę rozwiązanie spotkało się z krytyką doktryny i zgodnie z przewidywaniami nie sprawdziło się w praktyce. Dlatego też w nowelizacji z 23 lipca 2015 r. (Dz. U. z 2015 r. poz. 1321) wprowadzono nowy Rozdział 9a, w którym uregulowano sytuację prawną Trybunału oraz podstawowe zasady jego funkcjonowania.

Na mocy nowelizacji Trybunał odzyskał ustawową podstawę funkcjonowania oraz kompetencję do rozstrzygania wszelkich sporów wynikających z zaskarżenia ostatecznych decyzji dyscyplinarnych polskich związków sportowych.