Vad som är en liten skola är relativt och beror på vilka aspekter vi kopplar till begreppet skola, och på den omgivning där skolan är. Barns bild av vad en skola är stämmer exempelvis inte alltid överens med vuxnas syn; att skolbyggnaden är stor och eleverna få gör att skolan är stor i barnens värld – för det finns ju mycket rum att leka där, både på skolgården och i skolhuset. En liten skola kan också upplevas som en stor skola om den omspänner ett vidsträckt distrikt och är ett centrum för människor i alla åldrar. En liten skola kan därtill upplevas som en stor skola om den ger en god grund för livet. Att skolan får karaktären av byskola och kulturellt resurscentrum kan ge bärkraft inför livet oavsett om skolan finns i en rural eller urban miljö. Den ideala byskolan fungerar så att alla är välkomna, blir sedda och upplever att de är delaktiga.
Den vanligaste associationen då man använder begreppet liten skola är elevernas antal. Översikter av skolors storlek i olika länder har olika definitioner av hur litet elevantal en liten skola har (se t.ex. Anderson m.fl. 2010). I finländskt och nordiskt perspektiv kategoriseras skolor med sammansatta klasser som små skolor (i den grundläggande utbildningens lägre årskurser). Sammansatta klasser innebär att en lärare samtidigt undervisar flera årskurser samtidigt. Åldersblandade klasser införs ibland även av pedagogiska skäl som s.k. årskurslös eller åldersintegrerad undervisning oavsett skolans elevantal. I den lilla skolan är åldersblandningen däremot nödvändig, eftersom elevernas antal inte är tillräckligt för att man ska kunna ordna all undervisning i enkla klasser med enbart elever i en ålder. För olika utbildningsstadier är dessutom kategoriseringen av vad som är en liten skola olika.