Originaire de Yougoslavie, la famille Rossif s'enfuit en Grèce durant la seconde guerre mondiale. Après des études à Rome, le jeune Frédéric Rossif s'installe à Paris en 1945, où il devient tout d'abord employé à la Cinémathèque Française, avant d'entrer à l'ORTF en 1952.

En sa qualité de producteur/réalisateur de télévision, il donne naissance à de nombreuses émissions, parmi lesquelles Cinq colonnes à la Une, ou La vie des Animaux. Son goût pour la vie sauvage ne se démentira pas, lorsqu'il passera au long-métrage, puisqu'il réalisera plusieurs documentaires animaliers, parmi lesquels La Fete sauvage (1976), ou Sauvage et Beau (1984).

Grand spécialiste du film de montage, se servant d'images d'archives, il choisit, après quelques courts, de relater pour son premier long-métrage l'histoire du ghetto de Varsovie, dans Le Temps du ghetto (1961). Si ce documentariste s'intéresse particulièrement à l'Histoire contemporaine (Mourir a Madrid, 1963, Un mur à Jerusalem, 1968), on en recense pas moins dans son oeuvre des portraits d'artistes (Pablo Picasso, peintre, 1980, Georges Braque ou le Temps different, 1974), et même une fiction (Aussi loin que l'amour, 1971).

La carrière de Frédéric Rossif est en outre marquée par sa collaboration récurrente avec des compositeurs de renom, Maurice Jarre tout d'abord, puis Vangelis, notamment pour De Nuremberg à Nuremberg (1989). Réalisé un an avant la mort du réalisateur, le film retrace l'histoire de l'Allemagne nazie (et par là celle de l'Europe et du monde) depuis 1935, date des grands rassemblements de fanatiques hitleriens à Nuremberg jusqu'à la capitulation et au procès historique qui eut lieu dans cette même ville.

Frédéric Rossif meurt en 1990 à Paris, où il est enterré.