A csoportelmélet létrejötte egy krisztallográfus professzor, Weissenberg kristályszerkezet röntgendiffrakciós vizsgálatainak köszönhetõ. Õ bízta meg a fiatal Wignert, hogy derítse ki, hogy az atomok miért tartózkodnak szívesebben a kristály szimmetriasíkjában, illetve szimmetriapontjaiban.
Ezzel a feladattal foglalkozva értette meg, hogy a négydimenziós téridõ szimmetriái a kvantummechanikában központi szerepet foglalnak el.
Ezzel a lépéssel és Neumann János a téma iránti ösztönzésével indult el a csoportelmélet kibontakozásához vezetõ rögös úton, amely azóta is nélkülözhetetlen eszköze az elméleti fizikának.
1931-ben írásos formában is megjelentette a csoportelméletrõl szóló gondolatait a Csoportelméleti módszerek az atomszínképek kvantummechanikájában címmel, amelyet azóta is szakmai körökben alap olvasmányként tartanak számon.

A legenda szerint a csoportelméletet egy esõs vasárnap délután tanulta meg iskoláskori barátjától, Neumann Jánostól, aki Göttinga egyetemén volt tanársegéd Hilbert mellett. Egy évig Wigner Jenõ is itt dolgozott tanársegédként (1927-1928), fél tucat tanulmányt írtak Neumann-nal közösen csoportelméletrõl a fizikában.

Mi is a csoportelmélet?

A csoportelmélet a geometriai szimmetriákon túlmutató, a fizikai történéseket (például elemi részecskék közötti átalakulások) leíró törvényszerûségek általános alapjait feltáró matematikai módszer.

Az ókor kiépített egy következetes képet a világról, amely alapján jól tájékozódunk mi, akik a Föld mozdulatlanul szilárd kérgén élünk. Ez az euklideszi geometria, amely szerint a világ háromdimenziós (elõre-hátra, jobbra-balra, föl-le), és amelynek alapeleme a kiterjedés nélküli nyugvó euklideszi pont.
Wigner felismerte annak jelentõségét, hogy a végtelen dimenziós állapottérben a történés törvényei 3+1 dimenziós téridõben ábrázolható tíz szimmetriát mutatnak, és ezek egzaktul érvényesek! Rájuk támaszkodunk mindennapi életünkben is, ezért lett célszerû agyunkban - érzékszerveink támogatásával - három térdimenzió és egy idõdimenzió képét kiformálni.
Wigner még tovább lépett. A fizikát egy jobbkezes és egy balkezes fizikus egyaránt sikeresen mûvelheti, mert a természet szimmetrikus a háromdimenziós tér tükrözésével szemben is: egy valóságos fizikai jelenség tükörben látott képe is lejátszódhat a Természetben. Ez a "tükrözési szimmetria". Ebbõl egy Wigner által bevezetett új fizikai mennyiségnek, a paritásnak a megmaradása adódik. Két tértükrözés egymásutánja már azonosság (mintha nem csináltunk volna semmit), ezért a paritás négyzete egység, a paritás értéke tehát +1 vagy -1 lehet. (-1-nek is +1 a négyzete.) A paritás megmaradása azt jelenti, hogy +1 paritású (tükörszimmetrikus) állapotból nem lesz soha -1 paritású (tükrözéskor jelet váltó antiszimmetrikus) állapot, és megfordítva: antiszimmetrikus (-1 paritású) állapot nem mehet át tükörszimmetrikusba (+1 paritás). Ezzel a kvantummechanikai gondolatmenettel Wignernek az elképzelhetõ történések (kvantumugrások) felét sikerült kizárnia.
Wigner ezeknél a kiválasztási szabályoknál még továbbment: a végtelendimenziós állapottér 3+1 dimenziós szimmetriáit matematikailag kiaknázta az atomok világában történõ kvantitatív tájékozódásra. A matematika az olyan sokaságot, amelyben két elem szorzata is elem, és elem azok megfordítása (inverze) is, csoportnak nevezi. Ugyanígy egy 30 fokos és egy 15 fokos elforgatás egymásutánja is forgatás (45 fokkal). Két szimmetriatranszformáció egymásutánja szintén szimmetriatranszformáció. Egy transzformáció után azt visszafelé végrehajtva (nem az óramutató járása szerint, hanem azzal ellentétesen fordulva, nem jobbra, hanem balra lépve) is egy transzformációt kapunk, amely az elsõ transzformáció hatását visszacsinálja, tehát létezik inverz is. Ezért a természet Wigner által tárgyalt szimmetriái csoportot alkotnak. Wigner a csoportelmélet matematikai módszereit felhasználva elegánsan és pontosan kiszámított a mikrovilágban olyan mennyiségeket, amilyeneket korábban csak veszõdségesen, numerikus közelítésben vagy egyáltalán nem tudtak kiszámítani. Így nemcsak az összeesõ és szétváló energiaszinteket és a kvantumátmenetek ("kvantumugrások") kiválasztási szabályait kapta meg, hanem a színképvonalak frekvenciáit, intenzitásait, polarizációját is számszerûen és elegánsan ki tudta számítani.
Természetesen azoknak, akik az atomok világát is háromdimenziós euklideszi térben próbálták maguk elé képzelni, ezek a végtelendimenziós állapottérben mûködõ kiválasztási szabályok, állapotfüggvényekre alkalmazott csoportelméleti trükkök érthetetlenül riasztóan hatottak. Még Wolfgang Pauli is, a Svájcban dolgozó osztrák fizikus, aki pedig sokban hozzájárult a kvantummechanika kiegészítéséhez, irtózott attól, amit õ csoportpestisnek nevezett el (1929). Hasonlóan kételkedett Erwin Schrödinger, Max von Laue és Max Born is. Róluk Neumann János ezt mondta Wignernek: "Ó, ezek csak régi elõítéletek. Öt éven belül minden fizikushallgató az egyetemen fogja tanulni a csoportelméletet." Így is lett. Arthur Wightman princetoni professzor a következõket mondta: "Az utóbbi évtizedek során a szimmetriacsoportok varázslótudománya nemcsak mindennapos rutinná vált, hanem olyan mélyen gyökeret vert a fizikusok természetrõl alkotott képében, hogy már el sem csodálkozik rajta senki."
Szilárd Leó bátorította Wignert, hogy mindezt írja meg egy közérthetõ tankönyvben. Wigner Jenõ könyvét nyári vakációja során Duna-parti nyaralójukban, Alsógödön írta, ami 1931-ben Berlinben jelent meg Csoportelméleti módszerek az atomszínképek kvantummechanikájában címmel. Ez az atomfizikusok kedvelt könyve, egyetemi hallgatók kedvelt tankönyve lett, amit ma is forgatnak. Jól meg lehet belõle érteni a csoportelmélet matematikáját, és ennek alapján jól lehet tájékozódni az atomok három- és végtelendimenziós világában. Aki ebbe belelendül, hirtelen otthon érezheti magát az elektronok végtelendimenziós állapotterében is. A 21. század fiataljai már a kvantummechanika Wigner által adott tárgyalását tanulják, abban gondolkoznak, azt érzik majd egyszerûnek.
Az azóta kibontakozó kvantumtérelmélet, a nagyenergiájú fizika már olyan absztrakt matematikai kereteket használ, hogy a 20. század második felében szimmetriacsoportok nélkül elképzelhetetlen lett a tájékozódás. Wigner Jenõ 1963-ban kapta meg a fizikai Nobel-díjat "az atommag és az elemi részecskék elméletéhez való hozzájárulásáért, különösképpen a fundamentális szimmetriaelvek fölfedezéséért és alkalmazásáért". Stockholmban a Nobel-díj átvételekor mondott beszédét e szavakkal zárta:
"Ezen ünnepi alkalomból arra szeretném ráirányítani a figyelmet, hogy mennyire tanárainknak köszönhetjük a tudomány iránt mutatott érdeklõdésünket, magatartásunkat. Az én történetem Magyarországon kezdõdött el a gimnáziumban, ahol matematikatanárom, Rátz László könyveket adott olvasásra, érzéket ébresztett bennem tárgyának szépsége iránt."

Ma az alapvetõ fizikai elméleteket már nem a konkrét fizikai kísérlet vagy a feltaláló elméleti fizikus nevével jelzik, hanem a megfelelõ szimmetriacsoportra utalnak: speciális és általános relativitáselmélet, kovariáns kvantumelektrodinamika, mértékelmélet, SU(2), SU(3), SU(4), szuperszimmetria.