1952년 장로회신학대를 졸업한 김 목사는 조부 김영옥 목사와 부친 김은석 목사의 뒤를 이어 1954년 목사안수를 받았다. 이후 샌프란시스코신학교와 피츠버그대에서 석박사 학위를 받았으며, 대구장로회신학교(현 영남신학대) 교수와 연세대 교목 겸 신과대 조교수, 예장통합 제72회 총회장 등을 지냈다.
또한 한국기독교교회협의회(NCCK) 부회장, 숭실대 이사, 세계교회협의회 중앙위원, 정신학원 이사 등도 역임하고, 1982년 국민훈장 석류장(사회분야)을 받기도 했다.
빈소는 서울 신촌세브란스병원 장례식장 특1호실이며, 장례예식은 30일 연동교회에서 통합 총회장으로 진행된다. 장지는 연동교회 ‘부활의 동산’이다.
유족으로는 부인인 방순영 여사와 딸 혜정과 혜선, 아들 홍규와 중규 씨 등 2녀 2남이 있다.