V roku 1862 sa konalo vo Viedni v Zelenom stále akadémie vied zakladajúci zhromaždenie Rakúskeho Alpského zväzu. Spolok Österreichischer Alpenverein (ÖAV) si dal za cieľ „... rozširovať znalosti o Alpách, podporovať lásku k nim ... uľahčiť nimi cestovanie“.
V roku 1869 založili nemeckí a rakúski horolezci v Mníchove Nemecký Alpský spolok (Deutscher Alpenverein - DAV). Pojem „nemecký“ vtedy neznamenal Nemecko, ale nemecky hovoriace priestor Európy a východnej Alpy boli vtedy označované ako „nemecké Alpy. Nebol organizovaný centrálne, mal samostatné sekcie. Tie spravovali svoje oblasti, v ktorých stavali chaty, budovali chodníky, vzdelávali horské vodca a starali sa aj o obyvateľstvo.
V roku 1873 obaja spolky splynuli a tak vznikol Nemecký a rakúsky alpský zväz „Deutscher und Oesterreichischer Alpenverein“), ktorý mal predovšetkým stavať chaty, budovať cesty a tiež školiť horských vodcov. Veľký podiel prostriedkov spolku plynul do vytvárania máp, zverejňovanie, bádania a kultúrnych aktivít.
Do začiatku prvej svetovej vojny vzniklo takmer 400 sekcií. V tejto dobe bolo na prvom mieste budovanie chát a horských chodníkov. V roku 1914 vlastnil zväz 319 chat s viac ako 8 500 lôžkami a miestami na spanie.
Mená mnohých chat, ako napr. Berliner Hütte, Prager Hütte pripomínajú ešte dnes sekcii, ktorá je založila a starala sa o ne. Áno, aj v Prahe bola sekcia Alpenvereinu. Veľká časť prostriedkov prúdila do vydávania publikácií, do výskumu a kultúrnych aktivít. Kartografi spolku tvorili tie najlepšie mapy východných Álp.
Po prvej svetovej vojne zmizlo mnoho sekcií a členov, rovnako ako pracovných oblasti v južnom Tirolsku. Napriek tomu sa potom v krátkej dobe počet členov oproti stavu pred vojnou strojnásobil. Starostlivosť o alpskú pôvodnú krajinu viedla v roku 1927 k rozšíreniu stanov o „ zachovávanie pôvodnosti a krásy veľhôr“. Súčasne v nich bola zakotvená starostlivosť o putovaní mládeže.
V roku 1918 kúpil Albert Wirth od sestier Eichenegg 40 km2 pôdy v oblasti Großglockner-Pasterze, a aj so svojím podielom je venoval Alpenvereine za účelom vyhlásenia prírodného parku. Ďalších 280 km2 Vysokých Taur získal Alpenverein v 30. rokoch zo štátneho vlastníctva. Tým bol položený základný kameň národného parku Vysoké Taury. Jeho vyhlásenia sa však uskutočnilo až v roku 1971.
Už pred 1. svetovou vojnou, ale najmä v prvých rokoch po nej, ovládli Alpenverein protižidovské prúdy. Väčšina sekcií v Rakúsku zaviedla „árijské paragrafy“. Sekcia „Donauland založená židovskými a liberálnymi členmi bola v roku 1924 vylúčená, a za to sa museli antisemiti vzdať ďalšie agitácie. S„Anschlussom“ Rakúska v roku 1938 sa stal „Deutscher Alpenverein“ odborom pre horolezectvo v štátnom Ríšskom zväzu pre cvičenie osôb. Všetky ostatné horolezecké zväzy boli zakázané. Mnoho malých alpských skupín a združení, ale aj rakúsky Alpenverein, bolo integrované do sekcií alebo boli prijaté ako vlastné sekcie DAV. Alpenverein tak prevzal okolo tucta vysokohorských alpských chat vtedajšieho spolku Naturfreunde a zrušené sekcia Donauland.
Sídlo Alpenvereinu, ktoré sa do tej doby periodicky sťahovalo, zostalo od roku 1938 v Innsbrucku.
Po roku 1945 bola ďalšia existencia Alpenverein súdne presadená na ústavnom súde. Jeho sekcie boli čiastočne uznané, čiastočne sa museli nanovo vytvoriť. Od roku 1951 sa zväz opäť volá „Oesterreichischer Alpenverein“ (Alpenverein). Nemecké sekcie dostali späť svoje chaty v Rakúsku po podpísaní štátnej zmluvy v roku 1955.
S normalizáciou života po vojne a hospodárskym rozmachom vzrastali aj aktivity a počet členov Alpenverein. Hnutie za životné prostredie viedlo v Alpenvereinu v roku 1980 k zvýšeniu hodnoty ochrany prírody. Zväz mohol ako najväčší vlastník pozemkov presadiť Národný park Hohe Tauern. Športové dianie v horách sa stalo pestrejším, vznikli nové športové trendy. Najvýznamnejším bol rozvoj športového lezenia.
Následné vzdelávanie funkcionárov sekcií malo pozitívny účinok. Od začiatku deväťdesiatych rokov stúpa razantne počet členov, tiež kvôli novým službám. Široké nadšenie pre vedome zdravý pohyb v prírode posilnilo význam horského športu, prácu s mládežou, ktorá má vzťah k prírode, a takisto posilnil význam chát a ciest. Dnes pracujú spriatelené zväzy DAV a OAV a tiež AVS (Alpenverein južné Tirolsko) na mnohých spoločných projektoch.
