Vùng đất này, thời cổ xưa là đất Việt Thường; dưới thời Bắc thuộc nằm trong châu Phúc Lộc; đời Tiền Lê [980-1008] thuộc châu Thạch Hà; từ 1025 đời Lý, có thể thuộc trại Định Phiên; đời Trần - Hồ [1226-1407] thuộc châu Nhật Nam; thời thuộc Minh [1407-1427] là đất huyện Bàn Thạch, châu Nam Tĩnh; từ 1469, vua Lê Thánh Tôn định bản đồ đất nước cho đến đầu đời Nguyễn là đất Thạch Hà, phủ Hà Hoa, Thừa Tuyên Nghệ An.
Năm Tân Mão [1831], niên hiệu Minh mệnh thứ 12, tỉnh Hà Tĩnh được thiết lập, tỉnh lỵ đặt trên đất xã Trung Tiết, huyện Thạch Hà.
Tháng 2-1886 Pháp đưa quân vào chiếm tỉnh thành Hà Tĩnh và ra sức xây dựng tỉnh lỵ thành một trung tâm đô thị đủ điều kiện phục vụ bộ máy cai trị.
Ngày 03/7/1924, Toàn quyền Đông Dương ra Nghị định thành lập thị xã Hà Tĩnh. Cho đến năm 1942, Thị xã Hà Tĩnh chỉ là một tỉnh lỵ nhỏ bé với diện tích 247 ha và 4.400 dân. Ngoài 4 xã mới sát nhập năm 1920 là Đông Quế, Xã Tắc, Trung Hậu, Tiền Bạt, nội thị chia làm 8 khu phố: Tịnh Trung, Hoàn Thị, Tiền Môn, Hậu Môn, Tả Môn, Hữu Môn, Tân Giang, Nam Ngạn.
Trước tháng 8/1945, Thị xã Hà Tĩnh chưa phải là một cấp hành chính, việc cai trị do chính quyền cấp tỉnh trực tiếp đảm nhiệm.
Sau Cách mạng Tháng Tám[1945], Thị xã Hà Tĩnh được nâng lên thành đơn vị hành chính ngang huyện, trực thuộc tỉnh. Diện tích 1,2km2 và dân số khoảng dưới 5.000 người.
Từ năm 1948 đến năm 1957, Thị xã Hà Tĩnh không trực thuộc tỉnh và chỉ là một đơn vị hành chính ngang xã, thuộc huyện Thạch Hà.
Năm 1958, Thị xã trở lại là đơn vụ hành chính trực thuộc tỉnh, nhưng cũng chỉ là một đơn vị cơ sở ngang xã. Năm 1960, Thị xã Hà Tĩnh được công nhận là đơn vị hành chính tương đương cấp huyện. Đến năm 1975, Thị xã Hà Tĩnh vừa làm chức năng cấp huyện, vừa làm chức năng cơ sở, trực tiếp quản lý hai tiểu khu Bắc Hà, Nam Hà.
Năm 1976, Bộ Chính trị trung ương Đảng quyết định nhập 2 tỉnh Nghệ An và Hà Tĩnh thành tỉnh Nghệ Tĩnh. Thị xã Hà Tĩnh không còn là tỉnh lỵ nhưng vẫn được coi là trung tâm chính trị, kinh tế phía Nam của tỉnh.
Tháng 9 năm 1989, do yêu cầu phát triển kinh tế xã hội, Hội đồng Bộ trưởng [nay là Chính phủ] đã quyết định sát nhập 6 xã của huyện Thạch Hà vào Thị xã Hà Tĩnh.
Tháng 10 năm 1991, thực hiện Nghị quyết kỳ họp thứ 9 - Quốc hội khóa VIII về việc chia tách tỉnh Nghệ Tĩnh thành 2 tỉnh là Nghệ An và Hà Tĩnh, Thị xã Hà Tĩnh trở lại là trung tâm tỉnh lỵ của tỉnh Hà Tĩnh, quy mô dân số phát triển, có điều kiện phát triển đô thị nhanh hơn.
Tháng 4 năm 1994, thành lập thêm 2 phường mới Tân Giang và Trần Phú, Thị xã Hà Tĩnh có 4 phường và 6 xã, diện tích tự nhiên 30,6km2, dân số 49.410 người.
Đầu năm 2004, Chính phủ có Nghị định mở rộng địa giới hành chính Thị xã Hà Tĩnh lần 2 nhập thêm 5 xã của huyện Thạch Hà vào và nâng cấp một số xã thành phường. Thị xã Hà Tĩnh có 15 đơn vị hành chính gồm 6 phường và 9 xã. Ngày 19/7/2006 đô thị Hà Tĩnh được Bộ Xây dựng công nhận là đô thị loại III, đây là mốc quan trọng đánh dấu bước phát triển mới trong việc xây dựng và phát triển đô thị thị xã Hà Tĩnh.
Ngày 28/5/2007 Chính phủ có Nghị định công nhận Thị xã Hà Tĩnh là thành phố trực thuộc tỉnh Hà Tĩnh.
Đến nay, sau nhiều lần thay đổi địa giới hành chính, Thành phố Hà Tĩnh có 16 đơn vị hành chính gồm 10 phường, 6 xã: Phường Bắc Hà, Phường Nam Hà, Phường Tân Giang, Phường Trần Phú, Phường Đại Nài, Phường Hà Huy Tập, Phường Thạch Linh, Phường Nguyễn Du, Phường Thạch Quý, Phường Văn Yên, Xã Thạch Môn, Xã Thạch Hạ, Xã Thạch Trung, Xã Thạch Đồng, Xã Thạch Hưng, Xã Thạch Bình.
Theo đó, thành phố Hà Tĩnh có 5.632 ha diện tích tự nhiên và 117.546 nhân khẩu, có 16 đơn vị hành chính trực thuộc, gồm các phường: Bắc Hà, Nam Hà, Nguyễn Du, Trần Phú, Tân Giang, Hà Huy Tập, Đại Nài, Thạch Linh, Thạch Quý, Văn Yên và các xã: Thạch Trung, Thạch Đồng, Thạch Môn, Thạch Hạ, Thạch Hưng, Thạch Bình.
Địa giới hành chính thành phố Hà Tĩnh: Đông và phía Tây giáp huyện Thạch Hà, phía Nam giáp huyện Cẩm Xuyên, phía Bắc giáp huyện Thạch Hà, huyện Lộc Hà.
Như vậy, sau khi điều chỉnh, tỉnh Hà Tĩnh có 12 đơn vị hành chính cấp huyện gồm: Nghi Xuân, Đức Thọ, Hương Sơn, Vũ Quang, Hương Khê, Can Lộc, Thạch Hà, Lộc Hà, Cẩm Xuyên, Kỳ Anh, thị xã Hồng Lĩnh và thành phố Hà Tĩnh.