Mientras estaba inscrito en la Universidad de Boston , tomó clases de arte en la Liga de Estudiantes de Arte de Boston de 1931 a 1935. En 1935, Kline fue a Londres y asistió a la Escuela de Arte de Heatherley de 1936 a 1938. Se instaló definitivamente en Nueva York en 1939. En las décadas de 1930 y 1940, Kline pintó paisajes urbanos y del distrito minero de carbón donde se crió, así como murales y retratos. Kline tuvo la suerte de contar con el apoyo financiero y la amistad de dos mecenas, el Dr. Theodore J. Edlich, y David Orr, quien le encargó numerosos retratos y le compró muchas otras obras. En este período, recibió premios en varios National Academy of Design Annuals. Después de experimentar con el realismo al estilo Ashcan (Hot Jazz (1940), empezó a crear sus primeras obras abstractas acercándose inicialmente al estilo facetado de Willem de Kooning, como se aprecia en The Dancer (1946). El interés de Kline por el arte japonés comenzó en este momento. Su estilo abstracto maduro, desarrollado a finales de la década de 1940, se caracteriza por audaces trazos gestuales de esmalte blanco y negro de secado rápido. Kline al igual que Pollock, cultivó la pintura de acción, su estilo fue simple, espontáneo e intenso. Ya en los cincuentas aparecen sus pinturas con marcas caligráficas y trazos en negro. A este periodo pertenecen: Cardinal (1950), Figure Eight (1952), Herald (1954) y su famosa Mahoning (1956).
La pintura de Kline manifiesta un distanciamiento respecto al resto de expresionistas abstractos, pero al mismo tiempo también refleja una serie de influencias recíprocas con algunos miembros del grupo. Así, la obra de Franz Kline no podría entenderse sin la existencia de Jackson Pollock, y sobre todo sin Willem de Kooning.
Tomando como punto de partida la confrontación de Kline con su entorno artístico, expositivo y la crítica, se advierte que a finales de los años cuarenta aprende el lenguaje moderno y asume el expresionismo como un aprendizaje, no como el principio del lenguaje, según Foster. Esto es, Kline no privilegia el gesto ni la práctica de una pintura como ejercicio catártico por el que el yo del artista queda liberado del yugo de la conciencia racional. Al contrario, y sin caer en una pintura de temas, el color (entendido como la tensión constructiva de dos energías) domina su trabajo. Además, la existencia de bocetos y dibujos preparatorios y su fijación por lo que denomina cerrar los ángulos denotan el control que ejerce sobre la concepción y composición de sus pinturas.
Franz Kline alcanzó la popularidad, después de su primera exposición individual en la Galería Egan, Nueva York, en 1950, convirtiéndose en uno de los exponentes más famosos de la escuela de Nueva York. Con el paso del tiempo volverían a su obra los colores, como puede apreciarse en Zinc Yellow (1959), Horizontal Rust (1960), Torches Mauve (1960), Mycenae (1958) y Scudera (1961), sin embargo, el blanco y el negro siempre predominan.
Franz Kline, falleció el 3 de mayo de 1962 en Nueva York, a causa de una fiebre reumática que afecto su corazón.