全球領先的人工智能公司正面臨一項難題:如何讓AI模型準確展示其運作機制。專家指出,這一問題將是未來監管強大AI系統的關鍵所在。
Anthropic、谷歌、OpenAI和埃隆?馬斯克(Elon Musk)的xAI等科技集團開發了一種名為“思維鏈”的技術,要求它們的人工智能“推理”模型一步一步地解決問題,同時展示它們是如何計算出對查詢的回應的。
雖然各家公司研究人員表示,這一過程確實帶來了許多有價值的洞見,幫助他們開發出更優的AI模型,但他們也發現了一些“行為異?!钡那闆r——即生成式AI聊天機器人給出的最終回答,與其推理過程中展現出的步驟和邏輯并不一致。
您已閱讀16%(276字),剩余84%(1445字)包含更多重要信息,訂閱以繼續探索完整內容,并享受更多專屬服務。