Pes Bim má krásny vzťah so svojím pánom Ivanom, ku ktorému ho viaže silné puto. Jedného dňa však Ivan ochorie a musí ísť do nemocnice a odtiaľ do Moskvy, kde sa má podrobiť operácii. Bim ostane v opatere dobrej susedky, no túži len po svojom pánovi a preto sa vydá hľadať. Na jeho ceste ho čaká mnoho dobrodružstiev a stretnutí s dobrými, ale i zlými ľuďmi.

Príbeh z 2. svetovej vojny rozpráva o vojakovi, ktorý uprostred vojny prežil niekoľko šťastných chvíľ. Devätnásťročného Aľjošu vyznamenajú za vojnové hrdinstvo. Namiesto medaile si však vyžiada niekoľko dní dovolenky, aby mohol navštíviť matku a opraviť strechu rodného domu. Balada o vojakovi bola jedným z prvých sovietskych filmov, ktoré spracovali tému vojny v jej intímnom rozmere, pred patetickým opisom hrdinstva a povinnosti voči vlasti dali prednosť osobnému rozmeru veľkých dejín.