Dưới thời vua Hùng Vương dựng nước (khoảng thế kỷ 6 - 7 trước Công nguyên), Hà Nội thuộc Bộ (cấp hành chính tương đương với một tỉnh) Giao Chỉ, một trong 15 Bộ của Nhà nước Văn Lang. Bộ Giao Chỉ ngày nay bao gồm Hà Nội, Hưng Yên, Nam Định và Ninh Bình. Khi đó, người Hà Nội tập trung ở bờ sông Tô Lịch. Nơi đây được gọi là Bổn Đò hoặc xã Long Đỗ hoặc làng Tô Lịch. Đây là nơi có thế “rồng cuộn, hổ ngồi”, sau này được vua Lý Công Uẩn chọn làm kinh đô.
Theo tài liệu cũ, sông Tô Lịch chảy qua làng ra sông Cái (sông Hồng). Họ dựng cầu tre bắc qua sông Tô Lịch và đặt tên là cầu Giát (quanh phố Cửa Bắc bây giờ). Xã Long Đỗ lúc bấy giờ bao gồm một số ấp cũ như ấp Rừng (Lâm Ấp), ấp Già La, ấp Rừng Ngà (Nha Lâm), ấp Bãi (Bình Sa), ấp Trại Cá Tươi (Tiên Ngư).
Xã trưởng là Tô Lịch không giàu có nhưng hào phóng; họ tôn trọng đạo hiếu và thường giúp đỡ người khác. Sau này, khi Tô Lịch mất, nhân dân Long Đỗ đã phong cho ông là thần của làng và đổi tên Long Đỗ thành làng Tô Lịch. Miếu làng Tô Lịch hay làng Long Đỗ được xây dựng trên núi Nùng nằm đối diện với cầu Giát, được coi là ngọn núi thiêng của vùng. Vì vậy, sau này dân gian vẫn coi Tô Lịch là thần núi, thần sông và cũng là thần của Thăng Long - Hà Nội.
Đến đời vua An Dương Vương, kinh đô nước ta được dời từ Bạch Hạc (Phú Thọ ngày nay) về Cổ Loa (thuộc Sóc Sơn, Hà Nội bây giờ), làng Tô Lịch vẫn giữ nguyên vẻ thanh bình. Năm 207, Triệu Đà sang xâm lược nước ta. Vì coi thường kẻ thù, An Dương Vương đã thất bại, bắt đầu chương đen tối nhất trong lịch sử dân tộc - nghìn năm Bắc thuộc. Làng Tô Lịch cũng không ngoại lệ, cũng nằm dưới ách thống trị của đế chế phương Bắc cả nghìn năm.
Dưới thời Hán đô hộ, Hà Nội thuộc các huyện Tây Vu và Phong Khê. Đến thời Ngô, Tấn đô hộ, Hà Nội thuộc huyện Vũ An, Nam Định. Đến đời Hiếu Vũ Đế nhà Lưu Tống, Hà Nội được nâng cấp thành quận, tức là quận lỵ Tống Bình. Quận lỵ Tống Bình chia thành ba huyện: Nghĩa Hoài, Tuy Linh và Xương Quốc. Vùng đất sau được chọn làm Hoàng thành Thăng Long, cùng với các huyện Từ Liêm, Hoài Đức (thuộc huyện Nghĩa và huyện Tuy Linh ngày nay).
Năm 544, sau khi Lý Bí khởi nghĩa chống lại ách đô hộ của phương Bắc, tức nhà Lương, ông lên ngôi hoàng đế, lấy hiệu là Nam Việt Hoàng đế (còn gọi là Lý Nam Đế) đã cho đắp lũy tre và gỗ ở cửa sông. Đây là lần đầu tiên Hà Nội xây dựng thành lũy, trở thành trung tâm chính trị của một quốc gia độc lập. Tuy thời gian tồn tại không dài nhưng đây là một thời kỳ hào hùng của Thăng Long - Hà Nội nói riêng và đất nước Việt Nam nói chung.
Năm 602, Lý Phật Tử, hậu duệ của Lý Nam Đế, đầu hàng nhà Tùy. Nhà Tùy chia đất nước thành ba quận: Giao Chỉ (miền Bắc), Cửu Chân (tỉnh Thanh Hóa) và Nhật Nam (Nghệ Tĩnh) và đặt Tống Bình làm thủ phủ của chính quyền đô hộ An Nam. Hoàng thành lúc bấy giờ trở thành đại bản doanh của quân xâm lược phương Bắc vào thời nhà Tùy và nhà Đường. Tuy nhiên, trong thời gian này, binh lính của nhà Tùy và nhà Đường đóng ở Tống Bình luôn bị xáo trộn. Nhân dân không ngừng vùng lên chống lại ách thống trị xâm lược như các cuộc khởi nghĩa của Lý Tự Tiên, Đinh Kiên, Mai Hắc Đế (Mai Thúc Loan) đã làm cho quân đô hộ bị thiệt hại nhiều.
Năm 791, Phùng Hưng dẹp tan ách thống trị của quân phương Bắc, giải phóng thành Tống Bình và lập kinh đô ở đây, duy trì hòa bình được bảy năm vì sau đó ông lâm bệnh chết. Nhân dân tôn ông là Bố Cái Đại Vương. Sau khi Bố Cái Đại Vương qua đời, Tống Bình một lần nữa rơi vào vòng kìm kẹp của triều đình phong kiến phương Bắc.
Năm 801, Đô đốc Bùi Thái úy sai binh sĩ sửa thành An Nam La Thành, đào hào và đắp thêm thành lũy. Ông đã kết hợp Tử Thành và La Thành để tạo thành một tòa thành nhằm tăng thêm sức mạnh chống lại các cuộc khởi nghĩa của thần dân. Thời kỳ này, La Thành có bờ sông cao khoảng 6,82 mét. Thành có ba cổng; trên mỗi cổng, có một vọng lâu. Cổng phía Đông và phía Tây với ba gian được gọi là “Cổng ba gian”. Cổng phía Nam là lối vào chính với năm cửa và vọng lâu năm gian. Trong thành có 10 toà, với 40 gian để chứa các toà nhà chứa vũ khí ở hai bên. Thời bấy giờ, đó là một tòa thành tương đối nguy nga. Tuy nhiên, Bùi Thái không cầm cự được bao lâu; Năm 803, Bùi Thaí bị cuộc khởi nghĩa của nhân dân dưới sự lãnh đạo của tướng Việt Vương Quý Nguyên đánh bại và phải trốn về nước.
Từ năm 863, khu vực Hà Nội đã có hai tòa nhà. Thành đầu tiên là Giao Châu (còn gọi là Thành Giao Chỉ) là đô thị của chính quyền đô hộ. Chu vi tòa thành này hơn 6km; Sông Tô Lịch ở phía bắc và sông Cái (sông Hồng ngày nay) ở phía đông trở thành chiến hào tự nhiên. Đây được gọi là La Thành thành hay Cửu Thành (Thành cổ). Bên trong có Tử thành với chu vi 1,6 km. Thành thứ hai là Kim Thành, được xây dựng vào năm 825 dưới sự cai trị của Lý Nguyên Hy.
Năm 866, Cao Biền, đô hộ kế tiếp thống chế Tống Bình, lệnh cho vây thành Đại La. Để khoét lớp đất lành, xóa bỏ nạn xâm lược của nước ta, Cao Biền đã chôn hàng nghìn cân đồng và sắt để trừ tà khắp nơi. Nhưng những trò ma thuật không có tác dụng, Cao Bên đã phải khóc mà tha rằng: “Ôi! Khi nào sự thúc đẩy của Nam Quốc sẽ dừng lại? Ở lâu ở đây, tôi sẽ phải gánh chịu tai họa! ” Và để tránh tai họa, Cao Bền tìm cách trở về phương Bắc. Sau Cao Biền, Tăng Côn, Chu Toàn Đức, Độc Cô Tôn được giao trấn giữ Đại La, nhưng tất cả đều không ở được lâu tại Tống Bình.
Dưới thời Cao Biền trị vì thành Tống Bình, gọi thành là Đại La, thành Đại La có hai lớp tường thành. Tường ngoài cũng là một con đập dài 6,337m, cao 4,65m với chân đập rộng 5,3m. Thành trong dài 5,947m, cao 8,06m, chân móng rộng 7,75m; ở mỗi phía trong bốn mặt tường xây một bức tường nhỏ cao 1,5m. Trên tường thành có 55 tháp canh; năm cổng xây cổng phụ, 6 cổng phụ có tường kè; có 34 con đường và 3 hào xung quanh. Khoảng cách giữa các bức tường bên trong và bên ngoài là 50m. Trong thành có 5.000 ngôi nhà cho quân Đường ở.
Năm 905, Khúc Thừa Dụ nổi dậy tấn công thành Đại La, rồi đánh đuổi quân Đường về nước, tự xưng là Đại tướng quân. Ông nổi tiếng với câu nói: “Từ nay nước Nam thuộc về công dân nước Nam”. Khúc Thừa Dụ, con là Khúc Hạo và cháu là Khúc Thừa Mỹ đặt Đại La làm đại bản doanh. Năm 930, Khúc Thừa Mỹ bị nhà Nam Hán đánh bại. Thành Đại La lại bị giặc kiểm soát.
Năm 931, Dương Đình Nghệ vùng lên lấy lại thành Đại La. Sau sáu năm cầm quyền, Dương Đình Nghệ bị Kiều Công Tiễn ám hại, gây phẫn nộ trong nhân dân. Trước sự binh biến của thiên hạ, Kiều Công Tiễn đã kêu cứu nhà Nam Hán. Ngay sau đó, nhà Nam Hán cho quân đánh nước ta. Ngô Quyền, con rể của Dương Đình Nghệ đã tập hợp binh lính và giết chết Kiều Công Tiễn để trả thù. Sau đó, ông dàn trận đánh cọc sắt và phá tan quân Nam Hán trên sông Bạch Đằng. Sau chiến thắng long trời lở đất trên sông Bạch Đằng, Ngô Quyền lên ngôi vua, mở ra nền độc lập chủ quyền lâu dài cho nước ta.
Nhà Ngô trị vì được 26 năm, đóng đô ở Cổ Loa. Sau đó, dưới thời Đinh, Lê sơ, kinh đô đặt tại Hoa Lư (Ninh Bình), quê hương của Đinh Bộ Lĩnh, nơi thuận tiện cho việc bảo vệ đất nước. Thành Đại La sau đó trở thành kinh thành Tống Bình, không còn là trung tâm của đất nước nữa.
Như vậy, ngoại trừ thời Lý Nam Đế tự xưng là hoàng đế ngang hàng với hoàng đế Trung Hoa, cho đến thời nhà Ngô, dù nước Việt nhiều lần giành được độc lập, các thủ lĩnh vẫn chỉ tự xưng là Tổng chỉ huy. Mặc dù được chọn làm nơi đặt đại bản doanh nhiều lần nhưng Đại La không được coi là kinh đô là bởi như vậy.