談判另一個重點，為今後雙方代表機構的名稱問題。美方早在卡特正式宣布與中共正式建交一年多前，國務院就已在此方面做研究準備。負責就此事規劃的是國務院的中華民國科科長費浩偉（Harvey Feldman），據他稱他是奉國務院助理國務卿郝爾布魯克之命而做規劃設計的。他以日本和我們斷交後所設的交流協會（中文名稱為「財團法人交流協會」英譯為Interchange Association Japan；2017年1月1日改名為「公益財團法人日本台灣交流協會」英譯為Japan-Taiwan Exchange Association )為藍本，設計出一個美國協會（American Institute），即後來的美國在台協會(American Institute in Taiwan)。事實上，當1977年8月美國國務卿范錫（Cyrus Vance）到北京會見鄧小平通知他美方將儘速與中共建交實現關係正常化時，范錫特別提到與中共建交之後，美國將在台灣設立一個聯絡辦事處、領事館或類似機構來處理美國與台灣的各種關係。不料，引來鄧小平的激烈反應與反對，鄧並要求中共方面的人員將當年美國總統福特（Jerry Ford）與國務卿季辛吉（Henry Kissinger）訪問北京當面向他們所作的保證對范錫宣讀一遍，福特的保證是：「一旦與中國建交，將不在台灣有任何官方的代表。」因此前述郝爾布魯克要費浩偉規劃美國在台機構時特別強調機構不能有官方性質。
費浩偉所設計出來的美國協會，實質上等於美國的地下大使館，原來大使館的各種職能都有，只是名稱有所改變而已；協會的經費來自國會通過的撥款，人員則是由外交人員轉任且保留年資，協會是以非營利機構辦理登記，並由一個理事會來主持，不過理事會的成員則由美國國務院任命。費浩偉的此一設計最後被接受使用，所以，有人稱他是美國在台協會的設計師（architect）。
談判時，對所設機構的名稱雙方曾有一番爭議。最初當美國宣布要設立一個叫American Institute in Taiwan的機構來處理與我們台灣的關係時，美方對外所附的中文翻譯名稱為「美洲在台協會」，我們認為不倫不類，經我們表達不滿之後他們同意中文名稱改為「美國在台協會」。至於我們要設立的機構，美方建議我們似可仿照他們「美國在台協會」的模式提出我們的構想，我們最先提出的名稱為「中華民國在美協會」(Republic of China Institute in America)，但不為美方接受，因美方表示任何中華民國(Republic of China)的字眼都不可使用；其間，美方曾建議我們使用「台灣在美協會」(Taiwan Institute in America)，但不為我方所接受，因那時我們政府認為在國際上用台灣有被地方化的意涵且含有台獨之嫌，同時我們也不喜歡用英文的Institute。最後經過多次協商，我們提出了「北美事務協調委員會」的機構，英文叫The Coordinating Council for North American Affairs，我們認為中文用委員會，英文用Council都相當具有官方的意味。美方接受了。其實在這之前，我們曾提過一個看起來更具官方意味的名稱「北美事務協調局」，英文叫Coordinating Bureau for North American Affairs,但美國不接受。
