另一方面，在中國掌握核武技術之後，台灣追趕腳步的野心一直為美國所擔憂。在蔣介石時代，美方的態度是默許甚至支持，在核能的技術交流上睜一隻眼、閉一隻眼，對相關情資也都有所掌握。然而到了蔣經國時代，中華人民共和國逐漸成為國際公認的「中國」，美國希望與中國打好關係，台灣當局發展核武的希望大勢已去。1976年，外交部次長錢復還曾向美國大使館承諾，表明政府絕對不會發展核武。隔年，美國駐華大使安克志（Leonard S. Unger）也奉國務院之命，口頭與書面要求行政院長蔣經國停止研發核武。白宮國家安全顧問布里辛斯基在寫給卡特總統的備忘錄中描述，台灣已被迫終止重水反應爐研究計畫，美國施壓效果顯著。
對美方關切陽奉陰違的台灣
儘管美國再三告誡，但與現今的北韓和伊朗一樣，當時台灣當局仍視核武為生死存亡關鍵，不可能輕言放棄。前國安會秘書長康寧祥在其回憶錄中寫道：「當時蔣經國一方面積極發展製造核武的能力，希望在5年之內完成，不只向南非進口鈾原料，也向加拿大購買核子反應爐，並向歐美購買從核廢料中提煉鈾原料的技術，另方面則是一再對外宣稱，研究核能只用在和平用途。」在能屈能伸的陽奉陰違之下，以發展核電為掩護的中科院核研所，仍為台灣的核武之路保存了一線生機。
正是在這樣波詭雲譎的背景下，張憲義在此貢獻所長，參與研發核武的國家大計。他有一位同事名叫賀立維，兩人都是中正理工學院物理系的校友，後來也受到唐君鉑將軍的賞識，赴美取得愛荷華州立大學核子工程的博士學位。當年賀立維一抵達美國，馬上就有當地人找上他，從他的專業學科切入話題，希望聊聊台灣核能發展的動向。賀立維敏感的神經馬上警覺，這是情治人員在刺探台灣的核武秘辛，因此立刻回報台灣的長官。上級也指示他反向利用這條關係，循線了解中情局究竟想知道什麼。
而在張憲義這邊，美方從1982年開始就持續與他接觸，當時他雖然感念國家栽培，內心仍有些許動搖。41歲時，張憲義晉升至核研所副所長，掌握更多研發機密。2年後，蘇聯發生車諾比核爆事件，讓他終於開始認真思考：核能的存在，對台灣到底是福是禍。美方人員也透過途徑對他曉以大義，強調停止核武發展是和平之舉，對兩岸都有好處。苦思良久之後，張憲義終於被說服了，出生於海南島的他，不想看到「兩岸的中國人」自相殘殺。從那刻起，他從一個單純的軍方技術人員，搖身一變成為國際牌局中足以翻轉命運的底牌。
在通過嚴密的測謊後，中情局確認他並非雙面間諜，正式吸收他成為中情局的專案對象，每3個月在士林夜市進行會談。中情局在各個層級佈了諸多消息來源，並不需要張憲義偷渡機密資料，而是希望他能協助確認其他情資的可靠性。身為主導計劃成員之一的核研所副所長，張憲義身處決策核心，有能力向中情局透露研發所需的重要採購項目、以及中科院與政府高層的簡報會議內容。而這一切地下活動，大外交官李潔明（James R. Lilley）都看在眼裡。他是美國在台協會駐台北辦事處處長，也曾在中情局參與東亞各國的情蒐工作，是當時極少數得知張憲義轉為臥底的美方高層人士。
