Nació como Werner Stipetic en Munich el 5 de septiembre de 1942, Herzog creció en Sachrang, Bavaria, entre la pobreza y la destrucción, porque su padre (con quien él no obstante tenia una relación esplendida) nunca podía mantener un trabajo por mucho tiempo. Cuando sus padres se divorciaron, Werner, el niño de once años, y sus dos hermanos se mudaron con su madre yugoslava a Munich.

Alrededor del año 1962, Herzog, que ya contaba con 20 años, se enroló en la Universidad de Munich como estudiante de literatura e historia, y produjo su primera película, Herakles, de 12 minutos, su segunda película, el cortometraje de 1964 Spiel im Sand (Juego en la Arena), y su tercera en 1966, una película pacifista llamada Die Beispiellose Verteidigung der Festung Deutschkreutz (La defensa sin precedentes del Fuerte Deutschkreutz). Durante todo este periodo y a partir de entonces, se burlaba de la idea de ir a una escuela de cine, convencido de que uno no puede aprender a filmar películas en un salón de clases, sino solo por experiencia propia. En el año 1963, estableció su propia productora, Werner Herzog Filmproduktion, diseñada para darle completa autonomía sobre todos sus proyectos.
Mientras tanto, Herzog adquirió unas insaciables ganas de recorrer el mundo que nunca lo abandonaron. Ganó una beca para la Universidad de Pittsburg en 1965, e inmigró a los Estados Unidos, donde consiguió trabajo en una estación de televisión, y se mantuvo por un tiempo contrabandeando televisores por la frontera de México. Regresó a Alemania en 1967, donde ganó el premio principal del Oberhausen Film Festival por su cortometraje Letzte Worte (Ultimas Palabras), luego viajó a las Islas Griegas para filmar su opera prima, Lebenszeichen (Signos de Vida, 1968), una historia sobre un afligido soldado alemán (Meter Brogle) quien cae en una desenfrenada demencia. Herzog comenzó la producción solo un par de semanas antes de la infame junta militar griega del 67, por esto fue que tuvo que sortear innumerables obstáculos e interferencias externas. La película, sin embargo, logró buenas críticas, ganando el premio Nacional de Cine de Alemania para una película debut (con un estipendio de 350.000 marcos alemanes), y corrió al New York Film Festival en el Lincoln Center.
Nadie podía detenerlo a el director, después de Lebenszeichen, siguió con dos cortometrajes en 1969, Massnahmen gegen Fanatiker (Precauciones contra fanáticos) y Die Fliegenden Arzte von Ostarfrika (Los doctores voladores de África del Este), y un documental de 1970 sobre los minusválidos, Behinderte Zukunft (Futuro Minusválido). Su segundo largometraje, la película de 1970 También los enanos empezaron pequeños, representa las actividades diarias de un grupo de enanos en una comunidad penal de Alemania, que se transforma en un estado anárquico. Horrorizadas, las autoridades alemanas prohibieron la película, pero los críticos en todos lados elogiaron este inquietante y alegórico retrato de vida, particularmente Richard Roud.
Herzog comenzó su tercer largometraje, Fata Morgana, en 1971; se yuxtaponen, en una forma no narrativa, una serie de imágenes fantásticas y fascinantes que Herzog editó en una estructura rítmica. Después de completar el documental Land des Schweigens und der Dunkelheit (Tierra de Silencio y Oscuridad) ese mismo año, Herzog se embarcó en la primera de una serie de colaboraciones fructíferas con el intensamente maniaco actor alemán Klaus Kinski, Aguirre Der Zorn Gottes (Aguirre, la Ira de Dios) (1972). Esta historia del demente conquistador español Don Lope de Aguirre (Kinski), y su demente aventura para localizar El Dorado, la ciudad de oro de los Incas, forzó a Herzog, Kinski y al equipo de filiación a aventurarse en el corazón de la selva peruana, donde batallaron contra condiciones infrahumanas para obtener las imágenes. Los críticos y el público instantáneamente aclamaron a la película como una obra maestra.
Herzog temporalmente se retiró del cine por un periodo de tiempo, para luego emerger con The Mistery of Kaspar Hauser (1975) (El Misterio de Kaspar Hauser), la historia de un joven extraño de 16 años quien creció en Bavaria alrededor de 1828, sin la habilidad de leer, escribir, hablar o caminar, y el drama cerebral Heart of Glass (Corazón de Vidrio), sobre la muerte de un fabricante en un pueblo alemán del siglo XIX dominado casi exclusivamente por una fabrica de vidrio, y las horrorosas repercusiones que tuvo este evento en la comunidad. Si bien las bellas e inolvidables imágenes de Corazón de Vidrio asombraron a todos, se volvieron más notorias las payasadas de Herzog: hipnotizaba a todo su equipo para llevarlos a un estado de histeria mientras las cámaras rodaban. Los críticos discrepaban sobre el sentido de su enigmática película; algunos la leyeron como una parábola alegórica sobre el inevitable colapso de la sociedad contemporánea, otros la leyeron literalmente, sobre la muerte de una comunidad. Todos se maravillaron de la artesanía casi etérea de Herzog y su cinematógrafo, Jorg Schmidt-Reitwein.
Después de un documental de 47 minutos en 1975, Die grosse Ekstase des Bildschnitzers Steiner (El gran éxtasis del escultor Steiner), Herzog produjo Stroszek en 1977, un cuento sobre tres marginados sociales que emigran a Wisconsin, precipitándose en el “Sueño Americano”, solo para encontrar miseria, degradación, y muerte. A finales de la década de 1970, Herzog filma una nueva versión de la película de 1922 Nosferatu, de F. W. Murnau, en 1978, con Klaus Kinski en el rol del vampiro, llamada Nosferatu, el vampiro de la noche; siguió con otra colaboración de Kinski, una adaptación del trabajo de Georg Buchner, Woyzeck. Este cuento –sobre un soldado explotado por un doctor local y conducido a la locura por la infidelidad de su mujer- devolvió a Herzog a un territorio de temática familiar y lo llenó de elogios. Siguió con otro pequeño trabajo, God´s Angry Man (1980), un mordaz interrogatorio de 44 minutos al Dr. Gene Scott, un televangelista norteamericano hambriento de dinero, producido por la televisión alemana.
Entre 1980 y 1982 (coincidentemente justo después que Francis Ford Coppola filmara Apocalipsis Now (1979)), Herzog se las arregló para sobrepasar la demencia de esa filmación con la producción mas difícil en la historia del cine. Con Fitzcarraldo, buscó tratar de contar la historia de Brian Sweeney Fitzgerald, un excéntrico y amante de la opera del siglo XIX, determinado a llevar la música de Enrico Caruso a los indígenas peruanos empujando un barco de vapor por sobre una montaña que dividía dos ríos. Un pequeño detalle: el verdadero Fitzgerald nunca completó su tarea, mientras que Herzog insistió en concebir un sistema que pudiera lograrlo. Durante la producción, un avión se estrelló y mato a varios habitantes de la zona, el actor Jason Robards se contagió disentería y tuvo que ser reemplazado por Kinski, Mick Jagger, también actor de la película, abandonó la filmación para ir de gira con los Rolling Stones (forzando a Herzog a rescribir el guión), el barco a vapor se atascó en el lodo y no pudo ser movido hasta la temporada de lluvias, estalló una guerra tribal en la región, y el vapor que el equipo trataba de arrastrar sobre la cima de la montaña se atascó a mitad de camino. Los famosos documentalistas Maureen Gosling y Les Blank anticiparon, previo a la filiación, las calamidades, filmando la traumática experiencia en su inolvidable documental Burden of Dreams (1982), un trabajo que fue elogiado como una obra maestra. La película aparentemente finalizó con Herzog –quien había comenzado a sufrir una crisis nerviosa para el final de la producción- revelando su propia locura al maldecir a toda la humanidad y recluyéndose a si mismo en una institución mental.
En 1984, Herzog filmó dos cortometrajes aclamados: The Green Glow of the Mountains –un documental sobre una exhibición de alpinismo en Pakistán- y The Ballad of the Little Soldier, una película sobre un viaje a la tierra de los Indios Mismito durante la guerra sandinista. Herzog filmó su largometraje Where the Green Ants Dream (Donde sueñan las verdes hormigas (1985)) en Australia; sobre una corporación minera que trata de extraer material muy necesario de tierras sagradas aborígenes, obteniendo reacciones mediocres de parte de los críticos.
Después de otro lapso de varios años sin filmar, Herzog se embarcó en su colaboración final con Kinski, la aventura dramática Cobra Verde. Kinski hace el papel del dueño de una plantación brasilera que viaja a África del Oeste para reclutar esclavos, pero en cambio participa del derrocamiento del monarca local, convirtiéndose el en emperador.
En las décadas de 1990 y 2000, Herzog en gran parte se aleja de los largometrajes para sumergirse en el duro trabajo del documental, con una interminable serie de pequeños y aclamados cortos de no ficción. De hecho, se inclinó tan profundamente en documentar eventos actuales que los largometrajes de Herzog se volvieron una ocurrencia cada vez mas rara, y un sobresaliente, hasta seminal evento. Sus documentales de este período incluyen: Lessons of Darkness (1992), Bells from the Deep: Faith and Superstition in Russia (1993), The Transformation of the World into Music (1994), Little Dieter Needs to Fly (1997), Wings of Hope (2000), Wheel of Time (2003), e Incident at Loch Ness (2004). The White Diamond (2004) –un relato sobre el avión propulsado por un hombre del Dr. Graham Dorrington, diseñado para explorar la jungla de Guyana- y Grizzly Man (2005) –compuesto por material filmado por el experto en osos grizzlys Timothy Treadwell justo antes de morir por el ataque de un oso- obtuvieron fuertes elogios.
El abandono de Herzog de los largometrajes llegó a un fin temporal dos veces durante los primeros años de la década de 2000. La película Invincible (2001) dramatiza la historia de un hombre judío que se rozaba con el poder del partido Nazi, solo para renunciar a su afiliación al partido para jugar lealtad a su pueblo mientras Hitler llegaba a la cima de su fama y autoridad. La película del 2006 Rescue Dawn se inspira en su documental de 1997 Dieter Needs to Fly, con una recreación ficticia sobre los eventos verdaderos capturados en dicho documental. Christian Bale protagoniza la película como Dieter Dengler, un piloto norteamericano que es derribado sobre Vietnam, y es retenido en un campo de prisioneros, quien guía un escape exitoso con el resto de los reclusos.
En adición a su trabajo como guionista y director, Herzog ha actuado en varias películas, talvez la más memorable sea el documental de Les Blank, Werner Herzog Eats His Shoe. La película fue el resultado de una apuesta que realizó Herzog con el estudiante norteamericano: Herzog le dijo al estudiante –quien siempre hablaba sobre realizar películas pero nunca lo hacia- que si completaba su película, Herzog se comería su propio zapato. El estudiante era Errol Morris, quien luego se volvería conocido por sus documentales Gates of Heaven, The Thin Blue Line, y Fast, Cheap & Out of Control, y efectivamente hizo su película. Habiendo perdido la apuesta, Herzog cumplió su promesa, y el resultado fue uno de los momentos más extraños en la historia de los documentales. En la película de 1983 de Paul Cox Man of Flowers, Herzog hace el papel principal, un padre severo y disciplinario durante una retrospectiva muda.