下周，一位從業(yè)30年的紐約資深律師將因一種新的輕罪而面臨紀(jì)律聽證會(huì)：在一份法律摘要文件中包含人工智能(AI)瞎編的虛假內(nèi)容。

Levidow, Levidow & Oberman律所的史蒂文?施瓦茨(Steven Schwartz)此前向紐約法院提交了一份10頁的文件，作為針對哥倫比亞航空公司(Avianca)的人身傷害索賠案的一部分。問題在于，就像法官在仔細(xì)閱讀后發(fā)現(xiàn)的那樣，提交的材料包含完全虛構(gòu)的司法判決和引文，是由生成式人工智能(generative AI)模型ChatGPT“在幻覺之下瞎編的”。

羞愧的施瓦茨在一份宣誓聲明中承認(rèn)，他確實(shí)使用了OpenAI的聊天機(jī)器人來幫助研究此案。這款生成式AI模型甚至說服他放心：其引用的法律先例是真實(shí)的。但他承認(rèn)，ChatGPT此前就已被證明是不可靠的來源。他對自己過度依賴計(jì)算機(jī)生成的內(nèi)容深表遺憾，并補(bǔ)充說，“在沒有絕對驗(yàn)證其真實(shí)性的情況下”，他永遠(yuǎn)不會(huì)再使用它。人們只能希望，我們都能受益于他的“學(xué)習(xí)經(jīng)驗(yàn)”——如今的老師們用來指代“錯(cuò)誤”的委婉語。