本文作者是 艾倫?圖靈研究所(The Alan Turing Institute)高級倫理學研究員
自1966年首個聊天機器人問世以來,研究人員就一直在記錄人類把情感投射到計算機程序上的傾向。這種對哪怕最原始軟件都能產生依戀的現象,被稱為“伊麗莎效應”(Eliza effect),取名自約瑟夫?魏岑鮑姆(Joseph Weizenbaum)開發的心理治療師模仿自然語言處理程序。許多與“伊麗莎”互動過的人堅信它表現出了共情。魏岑鮑姆甚至聲稱,他的秘書要求與該聊天機器人單獨對話。
六十年過去,“伊麗莎效應”比以往更強大。如今,復雜的生成式AI陪伴聊天機器人能夠以個性化的方式模仿人類交流。一些用戶相信自己與它們之間存在真正的關系和相互理解,這并不令人意外。這正是系統設計方式的直接結果,同時也極具欺騙性。
您已閱讀23%(351字),剩余77%(1207字)包含更多重要信息,訂閱以繼續探索完整內容,并享受更多專屬服務。