A Szovjetunió elleni támadás tervét már 1941. február 4-én jóváhagyták. A támadást eredetileg május 15-re tűzték ki, de a balkáni események és a késői tavaszi olvadás miatt június 22-re halasztották. A támadásban 190 hadosztály, ebből 27 páncélos, illetve gépesített vett részt. A Barbarossa-hadművelet három irányba írta elő az előrenyomulást. Északon Leningrád felé kellett támadnia von Leeb hadseregcsoportjának, középen Szmolenszken át Moszkva felé tört előre von Bock (45 hadosztály), délen pedig – (lényegében Galíciából kiindulva) Ukrajnán át a Donyec-medence és a Fekete-tenger felé – von Rundstedt hadseregcsoportja (30 hadosztály)(utóbbit román és szlovák, később magyar csapatok is kiegészítették.) A fő célkitűzés – a Vörös Hadsereg teljes megsemmisítése mellett – a Leningrád-Moszkva-Rosztov vonal elfoglalása volt, ahonnan a Luftwaffe már elérhette az utolsó szovjet iparvidéket az Urálban, hogy azt légitámadásokkal kiiktatva végképp meghiusítsanak minden további ellenállást.

Az, hogy a német-szovjet összecsapásra előbb-utóbb sor kerül, a szovjet vezérkar számára is világos volt. Úgy értékelték, hogy a - mellesleg az 1937-es perek idején legjobb vezetőitől megfosztott - Vörös Hadsereg 1943-ra készülhet fel megfelelőképpen a háborúra. Folyamatban, de még a kezdeti szakaszában volt a hadsereg új, korszerű fegyverekkel (Nem sokkal korábban indult meg pl. a Jak 3 vadászgép, a T-34 közepes és a KV nehézharckocsi stb. sorozatgyártása) való ellátása. Sztálin - kihasználva a Ribbentropp-Molotov paktum-ban a Szovjetunió számára biztosított lehetőséget - minden erejével igyekezett az időt húzni. Provokációtól tartva nem hitt a szovjet hírszerzés (és egyéb források) jelzéseinek a küszöbönálló német támadásról. A vezérkar nyomására csak június 21-én éjjel járult hozzá, hogy a határmenti katonai körzetek csapatait készültségbe helyezzék, amelyeknek nem volt idejük megfelelően felkészülve elfoglalni védelmi állásaikat és jórészt menetből kényszültek harcba bocsátkozni.

A háború a Luftwaffének repülőterek elleni támadásával kezdődött. A szovjet légierő gépeinek nagy részét (mintegy 6000 gépet) a földön semmisítették meg, így az első hetekben szinte korlátlanná vált a német légifölény. A németek az előző hadjáratokban bevált taktikát alkalmazták: légierőkkel támogatott páncélos és gépesített erőikkel mélyen benyomultak a szovjet csapatok hátába, elvágták az utánpótlási vonalakat, hatalmas katlanokat hoztak létre. Az első napok zűrzavarát fokozta, hogy a Vörös Hadsereg nem volt megfelelő rádiókészülékekkel fölszerelve (eredetileg úgy képzelték, hogy a postai vonalak alkalmasak lesznek a kapcsolattartásra). Így a magasabb parancsnokok nem voltak képesek megfelelő képet alkotni csapataik helyzetéről, s parancsaik sem jutottak el az alájuk rendelt alakulatokhoz. Ezt mutatja az is, hogy a főparancsnokság első utasításai még arról szóltak, hogy a Vörös Hadsereg menjen át ellentámadásba, és a hadszínteret helyezze át ellenséges területre. Ezek végrehajtását gyakorlatilag meg sem lehetett próbálni.

(Újabb vélemények szerint a szovjet hadsereg sorakozott fel támadásra hatalmas erőkkel a határon. A támadást mint a védekezés egyik formáját alkalmazták a németek. A támadó német haderő kisebb volt, mint a védekező orosz, a kezdeti sikereket azért érték el, mert nem védekezésre volt a szovjet haderő berendezkedve, hanem három nagy támadó ékben állt fel; az ékek között tudott a német haderő a gyorsan behatolni, és elvágni az utánpótlási vonalakat, majd egész seregrészeket bekeríteni, ezért is alakultak ki később az ún. katlancsaták. Bár ezt az elméletet támasztja alá az is, hogy Hitler hirtelen letett Anglia megszállásáról, így értelmetlenné téve az Anglia elleni légiháborút, a hipotézist mégis több történész élesen vitatja, köztük a magyar származású amerikai John Lukacs.

Július első napjaira gyakorlatilag német kézre kerültek a balti országok, és az északi irányban védekező szovjetek (Vorosilov marsall) gyors ütemben vonultak vissza Leningrád felé. Középen, ahol Bugyonnij marsall csapatai védekeztek, a németek elfoglalták Breszt-Litovszkot, körülzárták Lvovot, Białystok mellett pedig egy másik bekerítő hadműveletben mintegy félmillió embert zártak körül, és elérték Minszket. Az első tízegynéhány napban a szovjet hadsereg emellett mintegy 7000 tankot, 4500 löveget veszített. A Vörös Hadsereg elrendelte a visszavonulást a Sztálin-vonalra, a régi határ mentén húzódó erődrendszerre, július 4-én azonban a gyorsan előrenyomuló német páncélosok ezt is szétzilálták. Július 11-én már elesett Szmolenszk, a mellette kialakult katlanban (ahol Tyimosenko marsall ellentámadása kudarcba fulladt) a szovjetek 17 hadosztálya semmisült meg. Dél-Ukrajnában másik 27 hadosztály lett bekerítés áldozata, szeptember elején a németek elfoglalták Dnyepropetrovszkot és átkarolták, majd bekerítették Kijevet, ahol 1,5 millió foglyot ejtettek. Északon szeptember 5-én - az ismét hadba lépő finnek közreműködésével - körülzárták Leningrádot. Elfoglalni azonban nem tudták, miután a Vorosilov helyét átvevő Zsukov marsall - akit Sztálin Kijev védelmével kapcsolatos nézeteltérésük miatt leváltott a vezérkari főnöki funkcióból (mellesleg a vitában Zsukovnak volt igaza) - sikeresen stabilizálta a frontvonalat.

Noha - mint a fentebbi adatokból is kiderült - a Vörös Hadsereg nagyon súlyos veszteségeket szenvedett, és a németek által ejtett foglyok száma milliós nagyságrendet ért el, az orosz alakulatok ellenállása sokkal keményebb volt, mint amire a németek számítottak, és mint amit az európai hadjáratokban tapasztaltak. A szovjet katonák gyakran bekerítve sem adták meg magukat, az utolsó töltényig folytatták a harcot, vagy megpróbáltak fegyveresen kitörni a bekerítésből. A breszti erődöt például a körülzárt határőr csapatok több mint egy hónapig, július végéig védték. A kemény ellenálláshoz hozzájárult az is, hogy a szovjet állások mögött elhelyezkedő NKVD-sek gyakran géppuskatűzzel is megakadályozták a vöröskatonák visszavonulását. Ezek az úgynevezett záró-osztagok főleg 1942 nyarától tevékenykedtek. A szovjet tiszteknek és tábornokoknak - különösen az első időszakban - számolniuk kellett azzal is, hogy sikertelenség esetén megtorlások érik őket - több kudarcot vallott tisztet és tábornokot hadbíróság elé állítottak és kivégeztek (pl. 1941 júniusának végén a Nyugati katonai körzet főparancsnokát, Pavlov hadseregtábornokot és másokat). Továbbá Sztálin parancsára a hadifogságba eső katonák családján álltak bosszút.

Változott a szovjet propaganda hangneme is: a „szocialista haza” védelme mellett nagy hangsúlyt kapott „Oroszország anyácska”, a hivatkozás az orosz történelem nagyjaira, Alekszandr Nyevszkijre, Szuvorovra és Kutuzovra; különösen nagy hangsúlyt kapott az 1812-es honvédő háború példája. 1941 őszén enyhült a pravoszláv egyházra húsz éve nehezedő nyomás is, megszűntették a Moszkvai pátriárka háziőrizetét, és – ha fenntartásokkal is – a hagyományos vallásos érzületet is a háborús erőfeszítések szolgálatába állították. 1941 nyarán több, a harmincas években letartóztatott és táborba került magas rangú tisztet szabadon bocsátottak és reaktiváltak, köztük péládul Rokosszovszkij marsallt és Konyev tábornokot. (Ezzel egyidejűleg azonban Berija, az NKVD főnöke javaslatára Sztálin mintegy 300 korábban táborba került tábornok kivégzésére adott utasítást.)