(x^2+4*x+4)+(y^2+2*y+1)-1-4=<11
(x+2)^2+(y+1)^2=<4^2 - это круг с центром в точке (-2;-1) и радиусом=4
y=<3-3*x - это полуплоскость
выражение x^2+y^2-6*x-8*y+25=(x^2-6*x+9)^2+(y^2-8*y+16)^2=(x-3)^2+(y-4)^2 - это круг с центром в точке (3;4). Тебе нужно найти наименьший радиус такого круга - он в квадрате и будет наименьшим значением данного выражения.
Изобрази всё на координатной плоскости, дальше уже нетрудно!
Ancor, do you want more?!..