이런 문제는 어떻게 접근을 해야하나요?

힌트만 좀 날려주실수 없을까요?? 해답보고 푸는거 정말싫어해서 으으 이런 막히는 문제만 보면 자존심이...

아 ab의 값까지는 구했네요. 먼저 문제에 있었어서

근데 도무지 감은 안잡히고.. ㅜㅜ