Kelkit isminin VII. Yüzyılda yöreye gelip yerleşen Peçenek Türklerinden Kilki Beyden geldiği, Kelkit’in Kilki Beyin çiftliği olarak anıldığı rivayet edilmektedir ki Kelkit ilçe merkezinin diğer bir adı da Çiftlik’tir. Bazı araştırmacılar ise,ilk çağlarda yörede “Kerkit” adında bir halkın yaşadığına dikkat çekmektedirler. Kelkit 13. yüzyılın ortalarından 16. yüzyılın başlarına kadar geçen sürede çeşitli boy, ulus ve devletlerin birbirlerine üstünlük kurma mücadelelerine sahne olmuştur. Bunlardan özellikle Karakoyunlu-Akkoyunlu mücadelesi yörede büyük tahribata yol açmıştır.Osmanlı Padişahı Yavuz Sultan Selim Çaldıran Zaferi (1514) dönüşü Bayburt ve çevresiyle birlikte tamamen Osmanlı topraklarına katmıştır Padişah Safevilere karşı Osmanlıların yanında yer alan Akkoyunlu Feruhşad Bey’e Bayburt ve Kelkit çevresinde geniş iktalar vermiştir. 16. Yüzyıl Tapu Tahrir ve ve Evkaf defterlerinde yapılan incelemelerde Kelkit-Sadak nahiyesinin Bayburt Sancağına bağlı olduğu incelenmiştir. Coğrafi Konum : Kendi adıyla anılan ovanın üzerinde, Kelkit Çayı’nı oluşturan derelerin birleşim noktasında kurulmuştur. Deniz seviyesinden yüksekliği 1400 metredir. Köse ilçesinin 1988 yılında bir ilçe olarak ayrılmasından sonra, yönetim alanı daralmışsa da Gümüşhane’nin gerek nüfus ve gerekse yüzölçümü itibariyle en büyük ilçesi olma özelliğini kaybetmemiştir. Kelkit’in 6 belediye örgütü,77 pare köyü vardır. İlçenin yüzölçümü 1505 km² dir.