Wyrażenie pod kreską ułamkową nie może być równe zero.
x²-6x+9=0
Δ= (-6)² - 4*1*9 = 36 - 36 = 0
x = 6/2 = 3
Widzimy, że jeżeli x=3, to wyrażenie pod kreską wynosi 0, co nie ma prawa nigdy zajść!
Tak więc dziedziną funkcji jest zbiór R\{3}.
Polecam podręcznik matematyki na wikibooks, w rozdziale o funkcjach jest tam kilka przykładów wyznaczania dziedzin.