La formation du toponyme viendrait de la racine indo-européenne ath- signifiant probablement « tête » ou « sommet », puisque la forteresse de l'Acropole située au sommet de la colline du même nom, constituerait le « noyau fondateur » de la ville. Ce qui expliquerait d'ailleurs l'origine de la légende mythologique portant sur la naissance d'Athéna selon laquelle la déesse, devenue protectrice de la cité, serait sortie « armée » de la tête de Zeus.
Le pluriel du mot Athènes, d'après Thucydide, est une trace des anciens villages qui fusionnèrent pour fonder la cité (voir synœcisme).
En grec ancien, la cité s'appelait Ἀθῆναι / Athễnai et c'est sous ce nom qu'elle est devenue la capitale de l'État grec moderne. Cependant, depuis l'abandon de la katharévousa, dans les années 1970, la forme moderne Αθήνα / Athína est devenue le nom officiel de la ville (et de la mégalopole).
Des traces d'occupation humaine sont attestées dès le Néolithique sur le site de l'Acropole (voir Pélasges). Mais ce n'est qu'à la suite des invasions ioniennes que l'Attique fut organisée en cités, parmi lesquelles Cécropia, la future Athènes.
Athènes fut fondée formellement vers 800 avant notre ère par le synœcisme de plusieurs villages, partiellement préservés de l'invasion des Doriens. Ce faisant, en tirant parti de la forteresse naturelle de l'Acropole, ils purent résister aux hordes de pillards qui terrorisaient la région. Le pluriel du mot Athènes, d'après Thucydide, est une trace des anciens villages qui fusionnèrent pour fonder la cité. Selon la légende, c'est le héros Thésée, vainqueur du Minotaure, qui dirigea cette unification de l'Attique (Thucydide, II, 15, 2).
Athènes était l'une des cités dominantes en Grèce au cours du Ier millénaire av. J.-C. Son âge d'or fut atteint sous Périclès, au Ve siècle av. J.-C., où sa domination était à la fois politique, financière (grâce aux mines d'argent du Laurion et au tribut), militaire et culturelle. C'est à cette époque qu'Athènes fut qualifiée de « capitale (ἄστυ [astu]) de la Grèce » (Isocrate). Rapidement, Athènes transforma la ligue de Délos en un véritable empire qui fut dissous à la fin de la guerre du Péloponnèse qui l'opposa à Sparte.
Le philosophe Aristote né en 384 av. J.-C. participa beaucoup à la vie intellectuelle d'Athènes, notamment en rédigeant son traité intitulé Politiques, où il critiqua la démocratie athénienne.
La bataille de Chéronée, remportée en 338 av. J.-C. par Philippe II de Macédoine, fit entrer Athènes dans le nouvel Empire macédonien. La cité, qui demeura le grand foyer de la civilisation grecque, bénéficia jusqu'au IIe siècle av. J.-C. de nouveaux aménagements et de travaux d'embellissement menés sous la houlette de Lycurgue. Après la mort d'Alexandre le Grand en 323 av. J.-C. et le découpage de l'Empire macédonien, la ville, encore sous domination des rois de Macédoine, sombra dans l'oubli.
Conquise par le Romain Sylla, en 86 av. J.-C., Athènes perdit ses remparts et son rôle politique mais resta néanmoins un véritable phare intellectuel grâce à la Pax Romana qui s'instaura. Séduits par la culture et l'art de vivre athéniens, les Romains en copièrent les œuvres d'art et les mœurs et ne cessèrent d'embellir la ville : la tour des Vents, le temple de Rome et d'Auguste sur l'Acropole, l'agora romaine, le théâtre de l'Odéon dans l'ancienne agora sont parmi les monuments édifiés à cette époque. Aux alentours de l'an 1, la ville comptait ainsi environ 300 000 habitants.
À partir de 53, les prêches de saint Paul devant l'Aréopage ne donnèrent qu'un faible écho au christianisme à Athènes ; Paul réussit cependant à convertir un membre du vénérable tribunal, Denys l'Aréopagite ou Dyonisius, et une femme, Damaris (Ac 17,33-34).
Plus tard, l'empereur Hadrien (117 - 138), particulièrement attaché à la Grèce, continua les travaux d'urbanisme de ses prédécesseurs : la bibliothèque qui porte son nom, l'Olympion (temple de Zeus), de nouvelles routes et des aqueducs furent construits sous son règne. Sous le règne d'Antonin le Pieux, un richissime Athénien, Hérode Atticus, fit bâtir, entre 140 et 144, un gigantesque stade en marbre situé au-delà de l'Ilissos; il édifia plus tard, en mémoire de sa défunte épouse, l'Odéon qui porte son nom, construit en l'an 161.
Durant la période byzantine, Athènes perdit beaucoup de sa gloire pour ne devenir qu'une petite ville de province.
Théodose II, par ses édits de 426 et 439, ordonna la destruction de tous les temples païens. Il fit cependant une exception pour Athènes : ils seraient désaffectés et convertis en églises. Cependant, les Panathénées continuèrent à être célébrées. Justinien fit appliquer les décisions de Théodose II à partir de 529 : fermeture des écoles philosophiques (principalement néo-platoniciennes), transformées en écoles chrétiennes privées et conversion des temples en églises : le Parthénon devint la cathédrale de la ville. En effet, le culte de la Vierge (en grec Parthénos) Athéna fut remplacé par celui de la Vierge Marie Mère de Dieu, qualifiée d'Athénienne comme patronne de la cité. L'Érechthéion devint église de la Théotokos (« mère de Dieu »). En 857, l'évêché d'Athènes devint archevêché et le Parthénon devint église métropolitaine. Les temples furent dépouillés de leurs trésors au profit de Sainte-Sophie. Entre le vie et le VIIe siècle, l'Asclépiéion fut consacré aux saints Anargyres Côme et Damien. L'Héphaïstéion fut consacré à saint Georges. Au XIIe siècle, les Propylées devinrent palais épiscopal. De nombreuses églises byzantines furent érigées, bien souvent sur d'anciens sanctuaires païens.
En 1146, la ville fut prise par Roger de Sicile. Après l'établissement de l'Empire latin de Constantinople en 1204, les Français mirent en place un duché d'Athènes, d'abord gouverné par les sires de la Roche et de Brienne. Il fut conquis par la compagnie catalane, avant d'être repris par des Florentins, les Acciaiuoli (1385). Ces derniers rendirent à la ville une partie de son éclat. L'Acropole fut transformée en manoir. Les Florentins se logèrent dans le palais métropolitain des Propylées. Ils firent construire une tour de guet, détruite par Heinrich Schliemann en 1875. La ville basse, limitée à l'agora romaine, fut dotée en 1402 d'un mur d'enceinte, parfois appelé mur de Valérien.
L'occupation ottomane.
En 1456, trois ans après la chute de Constantinople, Athènes fut conquise à son tour par les Ottomans sujets de Mehmed II, sauf l'Acropole qui résista et ne tomba qu'en 1458. Les Turcs entourèrent l'Acropole de nouvelles fortifications (le mur de Serpentzé), appuyées sur le portique d'Eumène et l'odéon d'Hérode Atticus. Le Parthénon devint une mosquée. Il fut doté d'un minaret peu après 1466. L'Érechtéion devint le harem du disdar. Le 26 septembre 1687, alors qu'Athènes était assiégée par les troupes de Venise commandées par Morosini, une bombe tomba sur le Parthénon que les Turcs avaient transformé en poudrière. Le temple fut presque totalement détruit. La dégradation se poursuivit au début du XIXe siècle et fut l'œuvre de l'ambassadeur britannique à Constantinople, Thomas Bruce (7e comte d'Elgin), et de ses agents.
La population d'Athènes déclina fortement, chose qui s'aggrava avec le déclin de l'Empire lui-même. Des quartiers entiers de la ville furent détruits entre le XVIIe et le XIXe siècle dans des guerres de factions.
XIXe et XXe siècles.
Dès 1821 et le déclenchement de la guerre d'Indépendance, Athènes fut libérée de l'occupation turque, mais les Grecs ne s'emparèrent de la forteresse de l'Acropole qu'en juin 1822 après un long siège. En 1826 et 1827, les Turcs assiégèrent l'Acropole, défendue d'abord par le klephte Gouras et Makriyánnis, puis, après la mort de Gouras, par le général français Fabvier. Toutes les tentatives de dégager la ville, menées par Karaïskákis puis, après son décès par l'amiral Cochrane et le général Church, échouèrent. Les troupes de Rachid Pacha prirent l'Acropole le 27 mai 1827 et y restèrent jusqu'au 12 avril 1833. La ville était quasiment inhabitée lorsqu'elle fut proclamée capitale du royaume de Grèce le 1er décembre 1834, mais elle fut rebâtie dans les décennies qui suivirent.
Le gouvernement s'installa dans une ville en ruines. Les églises furent reconverties pour accueillir les ministères. L'Héphaïstéion devint un musée. Les architectes bavarois du roi Othon proposèrent un schéma directeur en triangle, dirigé vers l'Acropole ainsi mise en valeur, et un plan perpendiculaire. La reconstruction/construction de la ville fut laissée à l'initiative privée. La rue Ermou (Hermès) marquait alors la frontière entre ville ancienne, médiévale et ville contemporaine.
Un palais royal (devenu depuis siège du Parlement), que certains architectes auraient souhaité installer sur l'Acropole, fut achevé en 1838 sur la place Syntagma. La reine Amélie créa l'année suivante un jardin botanique (devenu depuis les jardins nationaux) à côté du palais.
En 1845, la ville était encore soit un champ de ruines soit un chantier de construction. De grandes maisons néo-classiques émergeaient de terrains vagues à peine déblayés. Les rues n'étaient pas encore pavées, ni éclairées, ni réellement aménagées.
Pendant la Première Guerre mondiale, la ville fut occupée par des troupes franco-britanniques à partir du 16 octobre 1916.
Après la guerre gréco-turque et la « Grande Catastrophe » de septembre 1922, l'afflux de plus d'un million de réfugiés en provenance d'Asie Mineure entraîna dans les années 1920 la construction de quartiers entiers.
Pendant la Seconde Guerre mondiale, la ville fut prise par l'Allemagne nazie, le 27 avril 1941, et occupée jusqu'en octobre 1944. Les Allemands organisèrent une famine systématique qui fit de très nombreux morts. Le 3 décembre 1944, le soulèvement communiste commença dans le quartier autour de l'Héphaïstéion, après que les forces de police eurent tiré sur une manifestation le matin même sur la place Syntagma, faisant une vingtaine de morts et plus d'une centaine de blessés. Les Britanniques restaurèrent l'ordre après d'intenses combats de rue et grâce à des renforts venus de Phalère.
La croissance d'Athènes fut très faible pendant les premières années qui suivirent les destructions et les ravages de la guerre civile grecque. Puis la cité recommença à croître.
L'entrée de la Grèce dans l'Union européenne en 1981 apporta de nouveaux investissements à la ville. Enfin, l'accueil des Jeux olympiques d'été de 2004 a été le moteur de nombreux travaux d'infrastructure.
En 1985, Athènes a été déclarée capitale culturelle de l'Europe.