Toda esta experiencia le fue muy útil a Rae cuando unió fuerzas con Sir John Richardson, cirujano naval escocés, para intentar descubrir el paradero de Franklin y sus hombres, y ayudar a los posibles supervivientes. Viajando por tierra y río, llevaron consigo un grupo de unos 20 hombres y cuatro botes. Pasaron el invierno en Fort Confidence, a orillas del Gran Lago del Oso, explorando los ríos Mackenzie y Coppermine en busca de pistas. Pero estaban demasiado al oeste y no encontraron nada. Cuando Richardson regresó a Inglaterra, Rae continuó la búsqueda durante varios años más; mientras tanto, de vuelta en Inglaterra, Lady Franklin, esposa de Sir John, se negaba a admitir que su esposo pudiera estar muerto. Valiéndose de su formidable red de contactos y su igualmente formidable poder de persuasión, obligó a todos los exploradores y marineros disponibles a recorrer el Ártico canadiense en busca de la verdad. A John Rae, le escribió: «Tenemos plena confianza… en su energía, capacidad y perseverancia, para lograr lo que pocos hombres podrían lograr…».