Odpowiedź :
Struktura [tex](X,*)[/tex], gdzie [tex]X[/tex] jest niepustym zbiorem, a [tex]*[/tex] działaniem w tym zbiorze, jest grupą gdy:
- działanie jest wewnętrzne, tj. [tex]\forall x,y\in X[/tex] [tex]x*y\in X[/tex]
- działanie jest łączne, tj. [tex]\forall x,y\in X[/tex] [tex](x*y)*z=x*(y*z)[/tex]
- istnieje element neutralny działania, tj. [tex]\exists e\in X[/tex] [tex]\forall x,y\in X[/tex] [tex]x*e=e*x=x[/tex]
- istnieje element odwrotny, tj. [tex]\forall x\in X[/tex] [tex]\exists x \in X[/tex] [tex]x^{-1} * x = x * x^{-1} = e[/tex]
W poleceniu jest napisane, że działanie jest wewnętrzne, a więc przechodzimy do sprawdzenia łączności.
[tex](a\circ b)\circ c=(ab-2a-2b+6)c-2(ab-2a-2b+6)-2c+6=\\=abc-2ac-2bc+6c-2ab+4a+4b-12-2c+6=\\=a b c - 2 b c - 2 a c + 4 c - 2 a b + 4 b + 4 a - 6\\\\a\circ (b\circ c)=a(bc-2b-2c+6)-2a-2(bc-2b-2c+6)+6=\\=abc-2ab-2ac+6a-2a-2bc+4b+4c-12+6=\\=a b c - 2 b c - 2 a c + 4 c - 2 a b + 4 b + 4 a - 6[/tex]
[tex](a \circ b)\circ c=a\circ (b\circ c)[/tex] zatem działanie jest łączne.
[tex]a\circ e=ae-2a-2e+6\\e \circ a=ea-2e-2a+6=ae-2a-2e+6\\\\ae-2a-2e+6=a\\ae-2e=3a-6\\e(a-2)=3(a-2)\\e=3[/tex]
A więc element neutralny istnieje.
[tex]a\circ a^{-1}=aa^{-1}-2a-2a^{-1}+6\\a^{-1}\circ a=a^{-1}a-2a^{-1}-2a+6=aa^{-1}-2a-2a^{-1}+6\\\\aa^{-1}-2a-2a^{-1}+6=3\\aa^{-1}-2a^{-1}=2a-3\\a^{-1}(a-2)=2a-3\\a^{-1}=\dfrac{2a-3}{a-2}[/tex]
A więc element odwrotny istnieje.
Zatem [tex](A,a\circ b)[/tex] jest grupą.