1974년, TBC '전국가요 신인스타쇼'에서 우승하였고, 같은 해 《말해줘요》로 데뷔했다. 이후 《노래의 꽃다발》이라는 트로트 메들리 앨범을 발표하여 히트시켰으며, 박건호가 작사, 길옥윤이 작곡한 《아침의 나라에서》라는 서울올림픽 찬가를 발표하였다. 일본 데뷔는 1977년에 《女の一生 (여자의 일생)》를 발표하면서였으나, 한동안 히트곡을 내지 못했다. 그러다 1988년 본인의 노래 《아침의 나라에서》를 일본어로 개사하여 히트시킨 후[1], 일본을 주 무대로 대형 엔카가수로 성장하였으며, NHK 홍백가합전에도 1989년, 1994년, 2001년에 총 3회 출연하였다.
2001년에는 북조선 김정일 국방위원장의 공식적인 초청을 받고 평양에서 공연을 개최하였으며, 그 외에도 사할린, 상파울로 등 해외 각지에서 콘서트를 개최하고 있다. 특히 그녀는 일본에서 열리는 콘서트나 TV 프로그램에 출연할 때 자주 한복을 입고 나오는 것으로도 유명하며, 자신의 이름을 상표로 하여 김치를 판매하는 등 한국과 관련된 활동도 많이 하고 있다.
흔히 씨름대회에서 자주 울려퍼지는 《천하장사 만만세》역시 그녀가 부른 것으로, 원래 제목은 《천하장사》이다[2].
2012년 5월 함께 일해왔던 남편과 이혼하고 (주) 센슈 기획과의 업무 제휴가 종료되면서, 6월 1일 김연자가 직접 대표가 되어 일본에 새 회사(YJKcompany)를 설립하였다.
이외 다수.
이외 다수.