最近，美国发生了一起刷新公众认知的案件。一名在顶级投行高盛工作的25岁华裔男性，竟然向ChatGPT倾诉他杀害前女友的详细计划。起初，他以为AI是一个没有人会干涉的“私人空间”，并希望通过与AI的对话来完善他的犯罪计划，结果却被ChatGPT的开发公司OpenAI举报给了FBI，最终导致他被逮捕并判刑。这起事件或许是全球首个因AI主动揭露用户行为而引发刑事追责的案例。

案件的主角名叫Darren Zhou，是一位华人金融专业人士，毕业于名校后便步入华尔街，成为了金融领域的佼佼者。他在美国东北大学获得了数学与工商管理双学位，随后顺利进入高盛，担任金融分析师，隶属于资产与财富管理部门。然而，2026年3月，他与交往了六个月的21岁女友分手。根据女方的说法，原因是Darren性格不稳定，尤其表现出强烈的嫉妒心和控制欲。

分手后，Darren难以释怀，情绪无法宣泄，于是选择在ChatGPT上倾诉最深的感受。开始时，他的对话内容还有些普通，谈论恋爱中的美好回忆、分手的痛苦，以及对复合的希望。然而，不到两个月，事情急转直下，他开始向AI透露实施暴力犯罪的计划。他冷酷地表示：“我月底之前就要杀了她。如果我得不到她，谁都别想活着。”他甚至详尽描绘了作案过程，计划在前女友常去的健身房附近等待，若她拒绝复合，便会用枪杀死她，然后自杀。

不仅只此而已，Darren还向AI详细描述了对前女友的绑架、强奸的意图，甚至连她的家人都被列为潜在目标。他毫不犹豫地把自己购置的作案工具的照片发给了ChatGPT，包括步枪、手枪、霰弹枪及其他犯罪工具。与此同时，Darren在现实生活中也不断骚扰前女友，在她拉黑了他的号码后，他还通过各种应用生成虚拟号码，继续对她进行骚扰和恐吓。

前女友对此心存愧疚，即使遭受威胁也没报警，而是默默保存了所有的骚扰信息。然而，令人意想不到的是，最终是AI出手拯救了她。Darren误以为与AI的聊天记录是完全私密的，但OpenAI的监控系统早已具备了自动识别危险内容的能力。当他发送的对话内容被标记为高风险后，这些信息被转交给专业团队审核，最终确认后被上报给FBI。

FBI在收到线索后，立即着手调查，并与佛罗里达当地警方联系，确认了Darren的前女友的安全。经对比她手中的骚扰证据，发现与Darren在ChatGPT中呈现的犯罪计划完全一致，警方趁机将Darren逮捕。

2026年5月，Darren被捕并在监狱中待了两天，缴纳了10万美元保释金后获释。高盛则在案件发生后，立即解雇了他，随后检方对他提出了多项指控，可能面临最高25年的监禁。2026年8月13日，Darren认罪，法院判处他8年缓刑，前两年需佩戴GPS电子脚镣，接受社区监禁，并终生禁止持有武器，且不得接触前女友。

这一事件被《棕榈滩邮报》报道，引发了广泛讨论。有人赞同OpenAI的做法，认为AI有效阻止了可能发生的命案，保护了前女友，但也有人对此表示担忧，认为用户的隐私受到侵犯。根据OpenAI的规定，一旦系统发现用户存在伤害他人的意图，将进行人工审核，并有权向执法部门提供聊天记录。因此，在美国，用户在与AI对话时，若涉及犯罪计划，AI并不会保持沉默。