일단 원이라는 조건에서 x제곱과 y제곱의 계수가 같아야 하므로 a=4 가 됩니다. 질문한 식을 정리하면 (x+2)^2+(y-1)^2=5-b 가 됩니다. 즉 루트 5-b가 반지름이 되고 내접하는 정사각형의 대각선의 길이를 구하면 원의 지름이 됩니다. 즉 대각선의 길이가 6이므로 지름이 6이고 따라서 반지름을 3입니다. 따라서 루트 5-b가 3이므로 b= -4 a-b= 4-(-4)=8 입니다.