Su contribución al desarrollo de las aplicaciones eléctricas al telégrafo es notable. La mayor aportación de este investigador lo constituye la construcción de la válvula termoiónica, diodo rectificador de la corriente eléctrica basado en el llamado efecto Edison. Thomas Edison había descubierto en 1860 que entre el filamento y una placa situada en el interior de una lámpara de incandescencia circula una corriente de muy baja intensidad.

La patente de Fleming consistía en un tubo de vacío en cuyo interior se encuentran un filamento en estado de incandescencia que hace las veces de cátodo y un ánodo. Cuando se mantiene el ánodo a un potencial positivo con respecto al cátodo, la corriente eléctrica puede fluir, pero no en sentido contrario.

Este elemento rectificador de la corriente eléctrica fue muy utilizado en los primeros aparatos de radio y televisión y en ordenadores durante la primera mitad del siglo XX, hasta que la invención del transistor, más barato y resistente, lo relegó al olvido. También es de Fleming la popular regla de la mano derecha para determinar el sentido del campo magnético que produce una corriente eléctrica.