Al comienzo de la Segunda Guerra Mundial, los holandeses tenían cinco cruceros, ocho destructores, 24 submarinos y embarcaciones más pequeñas, además de 50 aviones.
Los Países Bajos fueron conquistados en 1940 por la Alemania nazi en cuestión de días, y en su astillero fueron capturados dos cruceros ligeros holandeses y un destructor. Otros tres destructores que se encontraban en construcción también fueron capturados.
Durante el resto de la guerra, la marina holandesa tuvo su base en países aliados: la marina holandesa tenía su cuartel general en Londres y unidades más pequeñas en Ceilán (la actual Sri Lanka) y Australia Occidental. En todo el mundo, las unidades navales holandesas eran responsables del transporte de tropas, por ejemplo, durante la Operación Dinamo en Dunkerque y el Día D escoltaron convoyes y atacaron objetivos enemigos. Los submarinos holandeses obtuvieron algunas victorias, incluida una en un submarino U-95 de la Kriegsmarine en el mar Mediterráneo, que fue hundido por el O 21, pero durante la guerra la Armada holandesa sufrió grandes pérdidas, particularmente en el Teatro del Pacífico.
Una pequeña fuerza de submarinos con base en Australia Occidental hundió más barcos japoneses en las primeras semanas, después de que Japón se uniera a la guerra, que todas las armadas británica y estadounidense juntas durante el mismo período, una hazaña que le valió al almirante Helfrich el apodo de «Barco al día Helfrich». El ritmo agresivo de las operaciones contra los japoneses fue un factor que contribuyó tanto a las grandes pérdidas sufridas como al mayor número de éxitos obtenidos en comparación con los británicos y estadounidenses en la región.
Pero durante la implacable ofensiva japonesa de febrero a abril de 1942 en las Indias Orientales Holandesas, la armada holandesa en Asia fue prácticamente aniquilada, particularmente en la Batalla del Mar de Java (27 de febrero de 1942), en la que el comandante, Karel Doorman, cayó con su flota junto con 1.000 marineros. La Armada sufrió pérdidas de un total de 20 barcos (incluidos dos de sus tres cruceros ligeros) y 2.500 marineros muertos en el transcurso de la campaña. La marina holandesa había sufrido años de falta de financiación y estaba mal preparada para enfrentar a un enemigo con más barcos, más pesados y con mejores armas, incluido el torpedo Long Lance, con el que el crucero “Haguro” hundió al crucero ligero HNLMS «De Ruyter”.