Segunda expedición del Fram
En 1898 emprendió otra expedición a bordo del *Fram*. Sverdrup intentó circunnavegar Groenlandia a través de la bahía de Baffin, pero no logró atravesar el estrecho de Nares. Obligado a pasar el invierno en la isla de Ellesmere, él y su tripulación exploraron y dieron nombre a numerosos fiordos y penínsulas no cartografiados de la costa occidental de la isla; de ahí surgieron nombres noruegos como la isla Hoved («isla principal») y el mar del Príncipe Gustavo Adolfo (en honor al rey sueco Gustavo VI Adolfo) en el Ártico canadiense.
Entre 1899 y 1902, pasó tres inviernos más en la isla de Ellesmere, en el Ártico canadiense, a bordo del *Fram*, continuando con las labores de exploración y cartografía. Esto culminó con el descubrimiento de las islas situadas al oeste de Ellesmere —concretamente Axel Heiberg, Amund Ringnes y Ellef Ringnes—, conocidas colectivamente como las islas Sverdrup. Al adoptar métodos inuit, Sverdrup y su tripulación lograron cartografiar un total de 260.000 kilómetros cuadrados, una superficie mayor que la de cualquier otra expedición de exploración polar. La zona fue cartografiada por su topógrafo, Gunnar Isachsen, y la expedición dio lugar a la publicación de 35 trabajos académicos. A su regreso a Noruega, Sverdrup fue aclamado como un héroe nacional; sin embargo, sigue siendo una figura relativamente desconocida en Norteamérica y, en la propia Noruega, su labor de exploración en Canadá no goza de gran reconocimiento.