Mummery découvre les Alpes en 1871. Il commence à faire des ascensions avec des guides comme Alexander Burgener, J. Petrus and A. Gentinetta. Après son succès à l’arête de Zmutt en 1879, il réussit en 1881, à quelques jours d’intervalle, l’ascension de l’aiguille Verte par le versant de la Charpoua et le Grépon. Par la suite avec ses compagnons, William Cecil Slingsby et J. Norman Collie, il révolutionne la pratique de l’alpinisme en grimpant « sans guides », notamment le Grépon en 1892 et l’aiguille du Plan en 1893. Il considère avant tout la beauté de la voie empruntée et sa difficulté, sentiment qui l’amène à gravir le Cervin par des variantes plus difficiles que la voie principale, qu’il considérait comme trop facile.
Il raconte les exploits de ses grandes premières dans un livre fameux, Mes escalades dans les Alpes et le Caucase (1895).
En 1895, il décide de faire une expédition au Nanga Parbat qui se situait dans l’État princier de Jammu et Cachemire et qui fait partie actuellement du Pakistan. Leur expédition légère et innovante pour l’époque est la première tentative d’ascension d’un sommet de plus de 8 000 mètres. Elle est composée de John Norman Collie, Geoffrey Hastings, Albert Mummery et deux porteurs Gurkhas, Ragobir et Goman Singh.
Il disparaît le 24 août 1895 avec les deux porteurs, emporté par une avalanche alors qu’il fait une reconnaissance de la face Rakhiot.
Les corps n’ont jamais été retrouvés.
La première ascension du Nanga Parbat est finalement réussie par Hermann Buhl en 1953, après 31 décès dans des tentatives d’ascension. Hermann Buhl considère Albert Mummery comme l’un des plus grands alpinistes de tous les temps