下周，一位從業30年的紐約資深律師將因一種新的輕罪而面臨紀律聽證會：在一份法律摘要文件中包含人工智能(AI)瞎編的虛假內容。
Levidow, Levidow & Oberman律所的史蒂文?施瓦茨(Steven Schwartz)此前向紐約法院提交了一份10頁的文件，作為針對哥倫比亞航空公司(Avianca)的人身傷害索賠案的一部分。問題在于，就像法官在仔細閱讀后發現的那樣，提交的材料包含完全虛構的司法判決和引文，是由生成式人工智能(generative AI)模型ChatGPT“在幻覺之下瞎編的”。
羞愧的施瓦茨在一份宣誓聲明中承認，他確實使用了OpenAI的聊天機器人來幫助研究此案。這款生成式AI模型甚至說服他放心：其引用的法律先例是真實的。但他承認，ChatGPT此前就已被證明是不可靠的來源。他對自己過度依賴計算機生成的內容深表遺憾，并補充說，“在沒有絕對驗證其真實性的情況下”，他永遠不會再使用它。人們只能希望，我們都能受益于他的“學習經驗”——如今的老師們用來指代“錯誤”的委婉語。
您已閱讀26%（450字），剩余74%（1289字）包含更多重要信息，訂閱以繼續探索完整內容，并享受更多專屬服務。