Issu d'une famille juive autrichienne, Samuel Wilder, du prénom de son grand-père maternel, naît dans une petite ville de l'empire austro-hongrois qui appartient aujourd'hui à la Pologne. Il est tout jeune lorsque la famille s'installe à Vienne, où lui et son frère Wilhelm font leurs études primaires et secondaires. Son père rêve de le voir devenir avocat ou médecin mais il quitte rapidement l'université et opte pour une carrière de journaliste. Sa mère a fait un séjour aux États-Unis, ce qui explique le surnom familial de Billy qu'il adopte ensuite à la place de son prénom officiel, Samuel.

Il travaille pour un journal viennois, où il est chargé d'articles sur le sport, de faits-divers, et commence également à rédiger des critiques sur les spectacles, notamment le cinéma. En 1926, il s'établit à Berlin où il survit un temps en jouant les danseurs mondains à l'hôtel Eden, tout en commençant à écrire des récits et des ébauches d'histoires. Il collabore à un journal allemand local, Berliner Zeitung am Mittag, puis un tabloïd pour lesquels il rédige des articles mais aussi des nouvelles ou des romans-feuilleton à succès, généralement policiers ou burlesques. Ses enquêtes le mettent en contact avec des milieux et des personnages variés, diversité que l'on retrouve plus tard dans ses films.

C'est l'époque du cinéma muet. Il travaille, souvent comme "nègre", pour des scénaristes à succès ; il collabore avec d'autres professionnels du cinéma, notamment Fred Zinnemann, alors opérateur, et Robert Siodmak. Le succès d'une de ces oeuvres, Les Hommes le dimanche (1930), lui vaut de signer un contrat avec la Universum Film AG en 1929. Il gagne bien sa vie et commence à collectionner des oeuvres d'art contemporaines, notamment des meubles signés Mies van der Rohe.

Son frère, Wilhelm, s'est installé aux États-Unis dans le courant des années 1920. L'arrivée d'Adolf Hitler au pouvoir le contraint à son tour à l'exil. Il séjourne d'abord à Paris, rue de Saïgon, où il vit chichement et fréquente un milieu d'expatriés allemands comme Franz Waxmann, Friedrich Hollender ou Peter Lorre. Il réalise un film avec une jeune débutante, Danielle Darrieux, et Pierre Mingand: Mauvaise graine. Joe May, un metteur en scène allemand, emporte un de ses scénarios à Hollywood ; ayant réussi à le placer, il contacte Wilder et lui demande de le rejoindre. Celui-ci obtient un visa de touriste et s'embarque pour les États-Unis où la perspective d'une guerre le persuade de s'établir.

Il sait à peine parler l'anglais, langue qu'il assimilera néanmoins rapidement. Il écrit beaucoup, notamment des nouvelles en allemand traduites en anglais qu'il réussit à vendre notamment aux studios de cinéma. Grâce à cette activité et à ses contacts (dont Peter Lorre avec qui il partage un temps un appartement) il réussit à percer à Hollywood et signe un contrat avec la Paramount Pictures. Il travaille cinq jours et demi par semaine, rédigeant des scénarios originaux ou retravaillant ceux des autres scénaristes.

En 1938, il entame avec Charles Brackett un partenariat prolifique qui débouchera sur plusieurs classiques de la comédie américaine, dont La Huitième Femme de Barbe-Bleue (1938) et Ninotchka (1939) d'Ernst Lubitsch, autre immigré allemand qu'il considèrera toute sa vie comme son "seul Dieu". Lorsque la Paramount fait appel à Gary Cooper pour donner la réplique à Ingrid Bergman dans Pour qui sonne le glas, Wilder et Brackett servent de monnaie d'échange et se retrouvent au service du producteur Samuel Goldwyn. Ils écrivent alors le scénario de Boule de Feu (1941) et son remake Si bémol et Fa dièse d'Howard Hawks. Wilder retourne ensuite travailler pour Paramount. Son rêve est de passer à la mise en scène.

Avec sa double casquette de réalisateur et de scénariste (qu'il gardera définitivement), il met en scène un troisième film écrit avec Raymond Chandler : Assurance sur la mort (1944), adapté de James M. Cain, qui est sa première grande réussite et un modèle du film noir.

À partir de 1942, Charles Brackett produit plusieurs de ses films : Les Cinq Secrets du désert (1943), Le Poison (1945), récompensé par 4 Oscars dont ceux du meilleur film, meilleur réalisateur et meilleur scénario adapté, qui traite de l'alcoolisme et Boulevard du crépuscule (Oscar du meilleur scénario original 1950), après quoi le partenariat prend fin et Wilder devient dès lors producteur de la plupart de ses oeuvres.

Dès lors les films de Wilder deviennent plus caustiques et cyniques ; il tourne notamment Le Gouffre aux chimères (1951), son film préféré, ainsi que de très belles comédies telles que Certains l'aiment chaud (1959) et La Garçonnière (1960), pour lequel il remporte les Oscars du meilleur film, du meilleur réalisateur et meilleur scénario original.

Il dirige également Marilyn Monroe dans Sept Ans de réflexion (1955) et dans Certains l'aiment chaud où elle a pour partenaires Jack Lemmon (qu'il fera jouer dans sept films en 12 ans) et Tony Curtis. Billy Wilder tourne ses derniers films en Europe, comme Alfred Hitchcock, et prend sa retraite en 1981.