In den Alpen sind die unterschiedlichsten Gesteine zu finden. Im warmen Tethys-Ozean lagerten sich Sandsteine, Mergel und Tongesteine ab, außerdem Unmengen von Kalk, der sich zum Teil unter Mithilfe von Bakterien in seine magnesiumreiche Variante, in Dolomitgestein, umwandelte. Im flachen Wasser wuchsen Riffe und in seichten Buchten hat sich sogar Salz abgesetzt. Heute längst verschwundene Vulkane haben Lavagesteine hinterlassen. Viele Berge vor allem im Hauptkamm der Alpen, bestehen aus Kristallingesteinen wie Granit, Marmor, Gneis oder Schiefer. Sie haben sich unter hohem Druck und hohen Temperaturen tief unter der Erdoberfläche gebildet.

Während vor etwa 50 Millionen Jahren Afrika die Adriatische Platte gegen Europa drückte, wurden nicht nur die Sedimentschichten in den Meeresbecken – die Kalke, Mergel und Sandsteine – ineinander geschoben, gefaltet und zerbrochen. Auch Teile des Ozeanbodens gerieten in das Gemenge. Gewaltige Kräfte stauchten den Ablagerungsraum der Alpengesteine auf ein Drittel seiner ursprünglichen Breite zusammen. Der Druck war so groß, dass riesige Gesteinspakete kilometerweit von ihrem Ursprungsort weggeschoben wurden. Durch Risse und Spalten tief im Erdinnern stieg glutflüssiges Magma empor. Es blieb allerdings in der Erdkruste stecken und erkaltete dort zu Granit. Stellenweise wurde sogar das Fundament des Gebirges – Gesteine des urzeitlichen Wüstenberglandes auf dem Superkontinent Pangäa – nach oben gepresst. Sie treten heute in den höchsten Berggipfeln zutage.

Vor etwas mehr als 2 Millionen Jahren begann das Eiszeitalter. Seither gibt es Gletscher in den Alpen, die sich – den Temperaturschwankungen entsprechend – immer wieder ausdehnten oder zurückzogen. Der letzte Eiszyklus, die Würm-Eiszeit, hatte vor etwa 25 000 bis 20 000 Jahren seinen Höhepunkt erreicht. Die Alpen lagen damals unter einer über Tausend Meter dicken Eisdecke, aus der meist nur die Gipfel herausragten, ähnlich wie heute die Gipfel der Gebirge in Grönland oder in der Antarktis.
Die Gletscher haben Täler ausgeschürft, den Fels glatt poliert, Unmengen von Gestein zerrieben und abtransportiert und den Schutt dort, wo sie schmolzen, zu Hügeln aufgehäuft. Noch heute bearbeiten Gletscher das Alpengestein. Doch sie schrumpfen aufgrund des Klimawandels. Bald könnten viele von ihnen verschwunden sein.

Die Alpen wachsen vor allem im Westen immer noch in die Höhe – um etwa 1 mm pro Jahr. Ursache dafür ist nicht der immer noch anhaltende Druck von Afrika allein. Eine wichtige Rolle spielt dabei das Abschmelzen der eiszeitlichen Gletscher, die das Gebirge vor 25 000 Jahren noch Kilometer dick bedeckten. Dazu kommen Verwitterung und Erosion. Sie tragen den Fels allmählich ab. Die Gletscherzungen, Bäche und Flüsse und auch der Wind transportieren Staub, Sand und Gesteinstrümmer fort. Aufgrund dieses Gewichtsverlustes steigen die Alpen auf wie ein Schiff, das allmählich entladen wird.