Jeho počátky spadají do r. 1873, kdy bylo ve městě založeno německé nižší reálné gymnázium. Od r. 1902 bylo rozšířeno na sedmileté vyšší gymnázium, které fungovalo do r. 1944. K obnovení výuky došlo v letech 1946-1949, pochopitelně s češtinou jako vyučovacím jazykem. Roku 1956 bylo gymnázium obnoveno jako jedenáctiletá střední škola a výuka v něm pokračuje kontinuálně dodnes. Ve městě byla v 80. letech 19. století založena i tkalcovská škola, od 50. let 20. století dvacátého střední odborné učiliště zemědělské, v 90 letech 20. století vznikla i střední soukromá škola cestovního ruchu (posléze PRIMA).

V současné době ve městě existuje pouze jedna škola poskytující středoškolské vzdělání – Gymnázium a Střední odborná škola, Rýmařov, příspěvková organizace, která vznikla postupným slučováním místních škol zřizovaných Moravskoslezským krajem a v nedávné době i školy soukromé. Nabízí dva maturitní obory – gymnaziální (gymnázium 4leté a 8leté) a odborný (Masér sportovní a rekondiční) a dále pak dva obory učební (opravář zemědělských strojů a kuchař – číšník). Jde o školu rodinného typu, v níž panuje přátelská a tvůrčí atmosféra, dbá se na budování pozitivních interpersonálních vztahů. Své absolventy dokáže připravit jak pro další studium a vědu, tak pro praktický život.

Školu tvoří dvě budovy pro teoretickou výuku, dílny pro výuku praktickou, školní jídelna s internátem a tělocvična. Učebny jsou vybaveny moderní technikou (dataprojektory, PC, 3D tiskárna), žáci mají k dispozici laboratoře fyziky, chemie a biologie s PC periferiemi, PC učebnu cizích jazyků, PC učebnu informatiky, dílny vybavené NC soustruhy a automobilovou diagnostickou technikou, posilovnu s tréninkovými stroji a školní bufet. Škola využívá informační systém Bakaláři, on-line výuku zajišťuje pomocí nástrojů MS Office (MS Teams, OneNote, OneDrive, Share point, Forms ad.).

Výuka je zajištěna plně kvalifikovanými a aprobovanými učiteli, žáci se umisťují na předních místech v okresních i krajských kolech soutěží pořádaných MŠMT. Škola je také zapojena do regionálních a mezinárodních projektů, pro výuku cizích jazyků využívá i rodilé mluvčí, organizuje lyžařské a vodácké kurzy, zájezdy do zemí EU. Při škole také funguje střelecký oddíl, z nějž se rekrutují mistři ČR i Evropy. Žáci jsou zapojeni do chodu školy pomocí studentské rady, pořádají podzimní studentskou akademii a jarní Majáles.

Mezi významné absolventy patří např. umělecký fotograf prof. Jindřich Štreit, výtvarník Bořek Zeman, prof. PhDr. Dušan Šimek UP Olomouc, teolog doc. Petr Sláma, přírodovědkyně doc. Piňosová, filmový režisér Marek Čermák, literární vědec dr. Josef Švéda, rozhlasový reportér Jiří Slavičínský, Jiří Jahna a Michaela Mlíchovou – oba doktoři, učí na Matematickém ústavu SLU Opava a další.