全球領先的人工智能公司正面臨一項難題：如何讓AI模型準確展示其運作機制。專家指出，這一問題將是未來監管強大AI系統的關鍵所在。
Anthropic、谷歌、OpenAI和埃隆?馬斯克(Elon Musk)的xAI等科技集團開發了一種名為“思維鏈”的技術，要求它們的人工智能“推理”模型一步一步地解決問題，同時展示它們是如何計算出對查詢的回應的。
雖然各家公司研究人員表示，這一過程確實帶來了許多有價值的洞見，幫助他們開發出更優的AI模型，但他們也發現了一些“行為異?！钡那闆r——即生成式AI聊天機器人給出的最終回答，與其推理過程中展現出的步驟和邏輯并不一致。
您已閱讀16%（276字），剩余84%（1445字）包含更多重要信息，訂閱以繼續探索完整內容，并享受更多專屬服務。