Justin le Juste est tiré du roman Justin-le-Juste ou La charrette de Jean Pompougnac, publié en 1967. Éric Barbier a découvert le roman par le biais d'un ami. Séduit par son approche satirique et antimilitariste de la Première Guerre mondiale, le réalisateur a choisi d’en faire une adaptation très libre, surtout dans sa troisième partie. Les personnages de Marie et de Basile ont ainsi été créés pour le scénario.
Si le réalisateur a lu plusieurs ouvrages et visionné des documentaires sur la Première Guerre mondiale, il n'a pas cherché pour autant le réalisme à tout prix, car l'histoire est avant tout une fable : "l'histoire de Justin est trop décalée pour que la réalité de 14/18 soit une base de travail pour moi. Le film est une fable où Justin, que tout le monde prend pour un idiot, va apprendre à se révolter contre ses supérieurs avec son ami Basile. Il ne fallait surtout pas s'engluer dans le réel de la guerre." Éric Barbier s'est surtout appuyé sur Les Aventures du brave soldat Švejk, roman satirique tchèque de Jaroslav Hašek, et Les carnets de guerre de Louis Barthas, tonnelier. Des conseillers historiques ont néanmoins été consultés pour les costumes et l'organisation militaire : "Ils m'ont aidé à traiter très sérieusement cette fable invraisemblable."
Trois ans après Zodi et Téhu, frères du désert, Éric Barbier dirige une nouvelle fois Alexandra Lamy. Celle-ci a pu lire une première version du scénario durant la promotion de ce film familial. L'actrice a été d'emblée enthousiasmée par l'histoire et a encouragé le réalisateur à en faire un long-métrage. Barbier a alors décidé de faire du journaliste une femme et a confié le rôle à Lamy.
Le personnage de Marie Baratier, journaliste au Canard Enchaîné, nommée en référence à la mère d’Albert Londres, est inspiré par la journaliste Annie De Pène, qui a publié plusieurs textes pendant la guerre. Éric Barbier raconte : "Cette journaliste, amie de Colette et d’Henri Barbusse, est la première femme à s’être rendue dans les tranchées sans autorisation officielle pour en livrer trois reportages qu’elle regroupera dans une brochure intitulée Une femme dans la tranchée."
Quant à Basile, son parcours puise dans celui de Lamine Senghor, mobilisé au Sénégal pour servir la France. Après avoir participé à la bataille de la Somme, il est gazé à Verdun en 1927. "Ce qui est très frappant dans le parcours de Senghor c'est qu'il se radicalise après la guerre. Proche du parti communiste, il crée en 1926 le « comité de défense de la race nègre ». Il devient un des pionniers de la pensée anticoloniale en France", précise le réalisateur.
Le rôle de Basile a failli échapper à Birane Ba, alors pensionnaire de la Comédie-Française, en raison de son engagement dans La Mouette de Tchekhov. Refusant pourtant de renoncer au film, le comédien a trouvé une solution pour cumuler théâtre et cinéma. Le réalisateur se souvient : "Je lance un casting pour rencontrer d'autres acteurs et un matin, qui je vois débarquer à la production ? Birane ! Il me dit : « il faut que je fasse ce rôle, c'est important pour moi, c'est l'histoire de ma famille. Si la production me trouve un chauffeur, quand je sors de scène je saute dans la voiture, je dors, et le matin je suis d'attaque. »" Ainsi, le comédien sortait de scène à 23h30, roulait trois heures jusqu'au décor, se maquillait à 5h du matin et tournait toute la journée avant de repartir à 16h30 pour jouer le soir.
L'équipe souhaitait tourner dans de véritables tranchées de la Première Guerre mondiale, mais ces lieux de mémoire ne pouvaient être détériorés pour les besoins du film. Le chef décorateur Pierre Renson a donc dû creuser tout un réseau de tranchées dans un champ abandonné, replanter des arbres calcinés et installer quantité d'accessoires. Le terrain a même été détrempé pendant plusieurs jours pour retrouver l'aspect d'un véritable champ de bataille.