Nació en la isla de Helgøya, en el condado de Hedmark, Noruega. Era hijo de Anders Thoresen y Pernille Pedersdatter.
El abuelo de Peder había sido un respetado artista rural, y en gran medida debido a él, Peder decidió comenzar su aprendizaje de pintura con un pariente. Ayudó con trabajos de pintura en verano, incluida la restauración de la iglesia de Balke en Toten. Peder se quedó en Toten y primero vivió con Nils Dyhren, un granjero y miembro de la Asamblea de Eidsvoll. Más tarde, vivió en Vestre Balke con el cuñado de Dyhren, Anders Balke, y eventualmente tomó Balke como su apellido familiar. Recibió varios encargos de pintura, incluida la pintura del interior de la iglesia de Kolbu, y ganó fama como un joven pero talentoso "pintor decorativo".
En otoño de 1827, Anders Balke lo llevó a Christiania (actualmente Oslo), primero como aprendiz de H. A. Grosch, y desde la Navidad de 1827 hasta el otoño de 1829 como estudiante de la Escuela Real de Dibujo, bajo la tutela de Grosch y Jacob Munch. Balke también firmó un contrato de aprendizaje de dos años con el pintor danés de decoración y arte, Jens Funch. Al obtener la ciudadanía como maestro en Christiania, pudo solicitar una exención del servicio militar al rey.
Uno de los buenos ayudantes de Balke, el profesor Jens Rathke, le aconsejó que se formara como pintor de paisajes en Estocolmo. Desde otoño de 1829 hasta la primavera de 1833, fue alumno de C. J. Fahlcrantz en la Academia de Bellas Artes de Estocolmo. En el verano de 1830, recorrió Telemark, Rjukan, Vestfjorddalen, pasando por Røldal y Kinsarvik hasta Bergen, y luego regresó por Vossevangen y Nærøydalen hasta Gudvangen, continuando por Fillefjell hasta Valdres y luego cruzando las montañas hasta Hallingdal. En todo el camino, dibujó y pintó pequeños bocetos que luego desarrollaría en pinturas.
De regreso en Estocolmo en otoño de 1830, el secretario de Estado Frederik Due le consiguió una audiencia con el rey Carlos Juan, y la familia real compró varias de sus pinturas. Las personalidades destacadas de Estocolmo también adquirieron sus cuadros, por lo que Balke pronto tuvo una considerable cantidad de capital.
En abril de 1832, Peder Balke emprendió su gran viaje a Nordland. Su relato de este viaje ofrece una imagen vívida del turismo de la época, con visitas a solitarios presbiterios y familias de funcionarios en el norte, donde la hospitalidad era generosa y los eventos se celebraban con buena comida y mucha bebida. Desde Trondheim, obtuvo un lugar en un barco hasta el Cabo Norte. La llegada a Vardø se produjo en medio de una tormenta. Las olas rompiendo contra las rocas después de la tormenta fue una vista que Balke nunca olvidó. La travesía continuó hacia Vadsø y luego hacia el sur, pasando por Skjervøy, Tromsø y Bodø, hasta regresar a Trondheim.
En la primavera de 1833, Balke regresó a Toten. Decoró las salas de las granjas Dyhren (quemada en 1978), Vestre Balke, Rognstad (dañada por el fuego en 1960) y Billerud. Las pinturas murales representan paisajes y panoramas, algunas de las granjas y sus alrededores, y otras son motivos imaginarios o inspirados en el norte de Noruega. Estas decoraciones eran, en muchos sentidos, un agradecimiento por el apoyo financiero que había recibido de los agricultores de Toten durante sus primeros años de estudio. En varias de estas pinturas, utilizó la misma técnica sugestiva que se perfeccionaría en su producción posterior. En 1834, se casó y la pareja finalmente se instaló en la casa del profesor Rathke en Fjerdingen, un suburbio de Oslo, cerca del río Akerselva.
Las ventas de sus pinturas, incluyendo las realizadas al rey Carlos Juan durante su estancia en Oslo, le proporcionaron los medios para realizar otro viaje al extranjero. En noviembre de 1835, partió primero hacia Berlín y desde allí a Dresde, donde buscó a su compatriota J. C. Dahl. Después de una estancia allí, regresó a pie a Berlín. A partir de mayo de 1836, pasó varios meses con Dahl, y la influencia del profesor se puede ver en pinturas como "El Edificio de Eidsvoll el 19 de mayo de 1814" (1837). Un cuadro como "Luz de luna sobre el mar" (1842) sugiere que también había estudiado el arte visionario de Caspar David Friedrich.
Balke también quería visitar París, y en esta parte del viaje utilizó un medio de transporte más cómodo: el nuevo invento del ferrocarril y los carruajes postales. Después de pasar 14 días en París, tomó el carruaje hasta Le Havre, donde consiguió un lugar en un barco con destino a Arendal. En septiembre de 1836, regresó a Oslo junto a su esposa e hijos.
A partir de 1838, Balke arrendó un terreno en el actual Parque del Palacio durante 7 años, al mismo tiempo que continuó su formación como pintor y completó una serie de cuadros. En el verano de 1841, partió nuevamente de viaje, esta vez con una estadía de tres semanas en San Petersburgo.
Durante la reunión del Storting (Parlamento) en Oslo en 1842, Peder Balke presentó una propuesta a través del presidente, el futuro ministro Hans Riddervold, para una asignación de 3000 especiedaler del Tesoro del Estado para becas de estudio en el extranjero para artistas. La propuesta fue aprobada, y Balke recibió una beca que le permitió realizar otra visita a Dresde en la primavera de 1843 para reunirse con el profesor Dahl. Al año siguiente, regresó a casa para realizar un viaje por Noruega en el verano junto a Dahl, pasando por Toten, Valdres y cruzando el Fillefjell. Desde Lærdalsøyri, tomaron un barco de vapor hasta Bergen, donde Dahl planeaba pasar un mes. Balke regresó a la capital por mar. Durante este viaje, pintó su primera imagen de un faro.
El rey francés Luis Felipe, durante su tiempo como refugiado de la revolución en 1795, había visitado el norte de Noruega hasta llegar a Nordkapp, y Balke esperaba tener la oportunidad de presentarse ante el rey y mostrarle algunas de sus bocetos. En 1846, llegó a París con su familia, pero con poco dinero y sin grandes perspectivas de ganancias. Escribió una carta al rey y, para sorpresa de todos, se le concedió una audiencia tres días después. Para las audiencias, llevó consigo varias de sus pinturas. Las conversaciones con el rey se llevaron a cabo en alemán. Luis Felipe habló sobre su viaje a Noruega y encargó dos pinturas a Balke, una con motivos de Trondheim y otra de Nordkapp, en la que quería ser retratado junto a su acompañante. Balke también recibió un encargo para realizar 30 de los 33 bocetos de diferentes partes de Noruega. Las dos pinturas fueron entregadas al director de la galería, pero después de que la familia hubiera estado dos años en París, nubes políticas se ciñeron sobre la capital francesa. La familia Balke decidió abandonar París un par de meses antes de la Revolución de Febrero de 1848, que resultó en la destitución del rey y su huida de Francia.
Entre 1849 y 1850, Balke vivió con su familia en Londres y escribió a Luis Felipe, quien ahora vivía en una finca a las afueras de la ciudad, preguntando si debía completar las demás pinturas encargadas. Al día siguiente, recibió una carta en la que se indicaba que, en las circunstancias actuales, no se debía "considerar en primer lugar...". A partir de 1850, Balke volvió a residir en Oslo, interrumpido por breves viajes a Berlín, Hamburgo y Dresde entre 1851 y 1853.
Entre los artistas noruegos contemporáneos, Balke no era muy apreciado. En esos años, los pintores de la Escuela de Düsseldorf dominaban prácticamente la escena artística en Noruega, y las pinturas de Balke eran consideradas "bastante sin valor". Además, Balke se involucró cada vez más en cuestiones políticas y problemas sociales. A partir de 1850, fue activo en el movimiento Thranite y se convirtió en un ferviente reformador social. En 1851, presentó al Storting (Parlamento noruego) una sorprendente propuesta de ley para un fondo de pensiones para trabajadores, así como una pensión para viudas e inválidos. Las propuestas se repitieron en 1869 y 1873, pero no tuvieron éxito. Fue elegido para el consejo municipal de Aker y escribió sobre el suministro de agua en los distritos occidentales, el tráfico ferroviario y los intereses marítimos y comerciales en Oslo
Después de que el profesor Rathke falleciera en 1855, Balke compró su propiedad, Carlstad (al norte de Bogstadveien, en la actual Industrigata), y construyó su casa allí. En la extensa propiedad, comenzó a dividir parcelas con el objetivo de establecer un nuevo barrio para trabajadores. Bautizó el área como Kunstnerlund, pero popularmente se le conoció como Balkeby. En 1872, estableció una tienda en Balkeby, de la que su hijo Karl Petter se hizo cargo.
En 1879, la propia casa de Balke y gran parte de Balkeby fueron destruidas por un incendio. Ese mismo año, Peder Balke sufrió un derrame cerebral, su deuda aumentó y falleció en 1887 como un hombre arruinado. Debido a su participación activa en asuntos políticos y sociales, el pintor Balke fue olvidado incluso en su tiempo. Las necrológicas solo mencionaron al ciudadano comprometido con la sociedad.