人工智慧與親密關係
透過掌握語言,人工智慧甚至可以與人類建立親密關係,並利用親密的力量改變人們的觀點及世界觀。雖然沒有跡象表明人工智慧有自己的意識或感受,但要培養與人類的虛假親密關係,只要人工智慧能讓人們產生情感依戀就夠了。
哈拉瑞指出,在思想及心靈的政治鬥爭中,親密關係是最有效的武器,而人工智慧剛剛獲得與數百萬人建立親密關係的能力。眾所周知,過去10年來,社群媒體已成為控制人類注意力的戰場,而隨著新一代人工智慧出現,戰場前線正從「注意力」轉向「親密關係」,當人工智慧之間展開偽造與人們親密關係的爭鬥,人類社會及人類心理會發生什麼情況,可用以說服我們投票給特定的政治人物或購買特定的產品?
人類歷史的終結?
我們正在談論的是人類歷史可能終結,而不是歷史可能終結。歷史是生物與文化的相互作用、生理需求及欲望(性或食物等)及文化產物(宗教及法律)之間的交互作用,而歷史是法律及宗教塑造食物與性的過程。
當人工智慧接管文化,並開始創造故事、旋律、法律、宗教,歷史進程會發生什麼情況?以前的印刷機及收音機等工具協助傳播人類的文化理念,但它們從未創造自己的新文化理念,而人工智慧截然不同,它可以創造全新的想法與全新的文化。
人工智慧的規範
哈拉瑞指出,人工智慧的新力量可以用於良好目的,可以肯定的是,人工智慧可以在無數方面幫助我們,包括尋找新的癌症療法及發現生態危機的解決方案。我們面臨的問題是如何確保新的人工智慧工具用於良善目的而非邪惡目的。
不受監管的人工智慧部署會造成社會混亂,這將有利於獨裁者,並破壞民主。民主是一種對話,而對話依賴於語言,當人工智慧破解語言,可能會破壞人們進行有意義對話的能力,從而破壞民主。
‘We're definitely not alone’: G7 nations set to restrain ChatGPT as European lawmakers discuss AI regulationhttps://t.co/0B03o5of2Z
— Business Today (@business_today) April 30, 2023
哈拉瑞指出,人們仍然能為新的人工智慧工具制定規範,但必須迅速採取行動。人工智慧能讓人工智慧的力量迅速成長,人們要採取的第一個關鍵步驟是在將強大的人工智慧工具發布到公共領域前,要求執行嚴格的安全檢查。
哈拉瑞認為人們應該停止在公共領域不負責任地部署人工智慧工具,在人工智慧監管人類之前,對其展開監管。他建議的第一項法規是強制要求人工智慧揭露自己是人工智慧,如果我正與某人交談,但無法分辨對方是人類還是人工智慧,那就是民主的終結。