Psalm 121 is de tweede van de vijftien “liederen der opgangen” (Hebreeuws: shir hamma'alot), een verzameling psalmen (120-134) die door pelgrims gezongen werd tijdens de drie jaarlijkse bedevaartsfeesten: Pesach, Sjavoeot en Soekot. “Opgaan” is daarbij geen metafoor maar letterlijk bedoeld — Jeruzalem ligt op bijna 750 meter hoogte, en vanuit welke richting men ook kwam, de reis was altijd een klimpartij door de bergen van Juda.
Anders dan Psalm 23 of veel andere Davidische psalmen bevat Psalm 121 geen opschrift met auteursnaam. De meeste uitleggers dateren de psalm in of na de ballingschap (zesde eeuw voor Christus). In die tijd kwamen de pelgrimstochten naar Jeruzalem opnieuw op gang nadat de tempel herbouwd was, en ontstond er behoefte aan een liedboek voor onderweg. Sommige tradities schrijven de psalm toe aan David of Hizkia, maar de anonieme herkomst past bij het liturgische karakter: het lied is er niet van iemand, het lied is er voor iedereen die opgaat naar Sion.
De reis naar Jeruzalem was in het oude Israël geen veilige onderneming. Pelgrims liepen vaak in groepen, zodat ze elkaar konden beschermen tegen rovers, wilde dieren en de ongenadige hitte van de Judese woestijn. Overnachten in het open veld was onvermijdelijk, en de nacht was — zeker voor wie niet kon slapen van spanning — het moment waarop de angst groter werd dan overdag. Het is tegen die achtergrond dat Psalm 121 zijn sterke beelden ontwikkelt: een Bewaarder die niet sluimert, een schaduw bij dag tegen de zon, en bescherming van de maan in de nacht.
Ook het “ingaan en uitgaan” uit vers 8 is primair een reisterm: het vertrek uit het ouderlijk huis en de thuiskomst na het feest. Wie de psalm zingt bij vertrek, vraagt God om zowel de heenreis als de terugkeer te bewaren. Pas later is deze formule overgenomen als zegen bij alle dagelijkse activiteiten en uiteindelijk als zegen over het einde van het leven.