수학적 증명이 가능하긴 하지만 고등학교과정에서는 굳이 필요없을거 같구요, f가 증가함수이면 역함수와의 교점은 항상 y=x위에 있게만 됩니다. 하지만 감소함수인 경우는 y=f(x)를 벗어난 교점이 생길수도 있습니다. 참고로 이 경우에는 반드시 홀수개의 교점이 생길수 있는데 하나는 y=x위에 나머지는 y=x를 벗어나 대칭으로 존재합니다. 질문한 문제가 바로 교점이 3개 생기는 경우이고 하나는 y=x위에, 나머지 두개는 (1,2), (2,1)입니다. 예를 들어 y=-x나 y=1/x의 역함수는 자기자신이고 이 경우는 교점이 무한개 생겨나는 경우입니다. 그 중 하나만 y=x위에 있구요..