김태옥은 일본 오사카 출생으로 서울대학교 물리대 물리학과를 졸업하고, 부산대학교 대학원 물리학과(석사), 경북대학교 대학원 전자공학과(박사)를 졸업했다.
일본 도호쿠대학 전기통신연구원에서 연구하였다. 요업센터 연구소, 국립공업연구소 연구원, 부산대학 공학과 교수를 역임했다. 전공은 자성재료이다. 논문으로는 「Ferroxplann의 자왜(磁歪)에 관한 연구」, 역서로는 『물성 물리학의 세계』 등이 있다.