1974 elejére a második album már majdnem teljesen elkészült. Benny, Björn és Stig újra felkérést kaptak, hogy írjanak egy dalt a Melodifestival-ra. Az előző évi „sikertelenség” nem kedvetlenítette el őket, sőt most már még inkább meg akarták nyerni a versenyt. Benny és Björn legtöbbször Viggsö szigetén (a stockholmi szigetvilágban) írtak dalokat, ahol kis házaik voltak. Órákon keresztül dolgoztak együtt a zongorán illetve a gitáron különböző dallamokat játszva és próbáltak jó ötletekkel előállni. Így készült el 1973 novemberében is egy dal, amit aztán Stignek adtak, hogy megírja hozzá a szöveget. Miután eszébe jutott a cím ’Waterloo’, pár óra múlva készen állt a dalszöveg. Egy szintén akkoriban felvett dal, az Hasta Mańana is felmerült, mint lehetséges nevezés a versenyre, de végül a Waterloo mellett döntöttek, helyesen. Februárban fölényesen megnyerték vele a Melodifestivalt és így ők utazhattak Angliába az Eurovíziós Dalfesztiválra.

Ez az alkalom nagyon fontos volt számukra, mert lehetőséget adott nekik, hogy sokmilliós nemzetközi közönség előtt lépjenek fel és végre olyan országokban is megismerjék őket, mint Anglia vagy az Egyesült Államok. Április 1-én Londonba utaztak, majd két nap múlva Brightonba, ahol próbákkal és interjúkkal töltötték a versenyig hátra levő időt. 5-én megünnepelték Agnetha 24. születésnapját és másnap, 6-án este Svédország képviseletében előadták a Waterloo-t a brighton-i The Dome-ban. A tévén keresztül kb. 500 millióan nézték a versenyt. A szavazás végeredménye alapján az ABBA fölényesen győzött. Svédország először nyerte meg a Dalfesztivált. A diadalt hajnalig tartó ünneplés követte, majd másnap reggel gratulációkkal, ajánlatokkal és felkérésekkel elhalmozva ébredtek. A következő napokon rengeteg interjút adtak és fotózások zajlottak először a tengerparton, majd Londonba visszatérve (természetesen) a Waterloo állomáson.

Közben már márciusban elkezdődtek a munkák a stúdióban Frida és Agnetha újabb szólólemezein, és tovább dolgoztak rajtuk az év hátralevő részében. A Húsvétot Viggsö szigetén, pihenéssel töltötték, miközben a Waterloo (mind az album, mind a dal) a toplistákon egyre magasabbra mászott. Angliában ez lett az első listavezető daluk és az USA-ban is a 6. helyig jutott. Az album Number 1 lett Svédországban és Norvégiában, valamint elérte a Top 5-ot több európai országban, Dél-Afrikában, Ausztráliában és Új-Zélandon is. Az album második kislemeze, a Honey, Honey viszont meg sem közelítette elődje sikerét. Érdekesség, hogy a ’Waterloo’-n van az egyetlen dal, ahol Benny énekel szólót, ez a Suzy-Hang-Around. Máskor Björnnek, de legtöbbször Fridának vagy Agnethának jutott ez a feladat.

Április végétől júliusig eleget tettek a rengeteg meghívásnak, amiket kaptak. Franciaországban, Németországban, Belgiumban és Spanyolországban léptek fel különböző tévéműsorokban Waterloo, Honey, Honey, Ring Ring és Hasta Manana című számaikat népszerűsítve, majd július végén Benny és Björn elkezdtek dalokat írni a következő albumukhoz. Szintén ekkoriban készítette el az együttes első videóit, mégpedig a Ring Ring és a Waterloo dalokhoz. Ezek a klipek, amiket Lasse Hallström rendezett (aki később híres hollywoodi rendező lett és egyik leghíresebb filmje a Csokoládé) rendszeressé váltak, mert ezzel utazás nélkül is népszerűsíthették dalaikat világszerte. Az ABBA úttörőnek számított ezen a téren, még velük egy időben is kevesen csináltak videóklipeket, előttük pedig szinte senki.

Bár a ’Waterloo’-val tényleg megismerte őket a világ és népszerűek lettek, ez korántsem jelentette azt, hogy mindenütt elfogadták és komolyan vették az ABBA-t. A közönség és a kritikusok arra számítottak, hogy – akárcsak más Eurovíziós győztesek – egy idő után eltűnnek a süllyesztőben, és ezzel maradnak „egyslágeres” együttesnek. Ezt a hitet erősítette, hogy a két következő kislemez (So Long/I've Been Waiting For You és I Do, I Do, I Do, I Do, I Do/Rock Me) viszonylag sikertelen volt. Így a ’Waterloo-t’ egy-másfél éves bizonytalanság követte számukra, ami alatt viszont keményen dolgoztak és ennek meglett a gyümölcse.

Ősszel ismét a stúdióba vonultak, hogy a harmadik albumuk dalain dolgozzanak. A munkát csak egy-két fellépés és egy rövid amerikai út szakította meg. Novembertől januárig külföldi turnét szerveztek, elutaztak Dániába, Németországba, Ausztriába, Norvégiába és Finnországba, de ez a vállalkozás nem volt túl sikeres - Skandinávia kivételével –, mivel ritkán voltak teltházas koncertjeik. Angliába el sem mentek, mert tudták, hogy nem lenne elég nagy az érdeklődés.

1975. január 22-én egy Svédországi koncerttel zárták a turnéjukat, majd februártól ismét az új albumon dolgoztak. Az eddig megjelent első kislemez, a So Long nem váltotta be a hozzá fűzött reményeket, de aztán az I Do, I Do, I Do, I Do, I Do már sikeresebbnek bizonyult, noha még mindig nem Angliában, ahol továbbra is az egy évvel ezelőtt megjelent Waterloo számított az egyetlen igazi slágerüknek.

Április végén kiadták az ’ABBA’ nagylemezt, és különböző TV showkban léptek fel az új album dalaival, majd júniusban végre megjelent az S.O.S. kislemez és ezzel ismét a toplisták élére kerültek, még Angliában is bejutottak a Top 10-be. Megint úgy kezdtek róluk beszélni, mint a jövő nagy együttese. Az ’ABBA’ olyan kincseket rejtett, mint az S.O.S. és a Mamma Mia. A jól ismert ’ABBA hang’ itt már sokkal inkább hallható volt és valószínűleg ennek köszönhetően az ’ABBA’ volt az első, igazi, nemzetközi albumsikerük, vezetve az eladási listákat Norvégiától Zimbabweiig szinte mindenhol. Májusban vették fel a Medley-t, egy három amerikai népdalból álló összeállítást, amit egy német jótékonysági célú albumra szántak. Ez az egyetlen valaha felvett ABBA dal, amit nem Björn és Benny írt. Eredetileg nem volt rajta az albumon, egy három évvel későbbi kislemezükön jelent meg először.

Nyáron ismét hazájukban adtak koncerteket 14 városban, nagy sikerrel (az eskilstunai koncertet az egyik rajongó felvette és ma egy bootleg CD-n hallható).

Frida és Agnetha svéd nyelvű szólóalbumainak készítése időközben folytatódott és ősszel sikerült befejezni. Agnetha lemeze decemberben jelent meg ’Elva Kvinnor I Ett Hus’ címmel, a ’Frida Ensam’ pedig novemberben, mikor éppen az Egyesült Államokban voltak egy kéthetes promóciós úton. Az egyik TV showban, ahol szerepeltek, a műsorvezető megkérte Bennyt és Fridát, hogy házasodjanak össze az ő műsorában. Ők természetesen nemet mondtak. Skandináviában már novemberben, de a legtöbb országban ’76-ban jelent meg a ’Greatest Hits’, az együttes első válogatásalbuma. Tökéletesen időzítve, meg sem állt a toplisták éléig és ez lett az első angliai No. 1 albumuk (a nyolcból).

’75 végén még megjelent az utolsó kislemez az ’ABBA’ albumról, a Mamma Mia és januárban ez lett a második angliai Number 1. kislemezük, a Queen Bohemian Rhapsody-ját váltva az élen. Innentől kezdve már nem volt megállás, a kritikusok is belátták, hogy az ABBA nem egyslágeres együttes és Anglia hosszú időre biztos lemezvásárló „bázisuk” lett. A dalnak világszerte hatalmas sikere volt, az ausztrálokat teljesen meghódította. Ott egyfajta áttörést jelentett számukra, az ABBA-mánia kezdetét. A kívánságműsorokban folyamatosan a dalhoz készült videóklipet kellet játszani, és a lemez vezette az eladási listát heteken keresztül. És ez még csak a kezdet volt.