你向AI提出的问题，可能会让你吃上官司

据韩国《先驱报》报道，多家媒体周三援引法律专家的报道，警方正越来越多地将嫌疑人的生成式人工智能（AI） 使用记录，作为证明其作案意图或动机的关键证据。

在近期一起案件中，调查人员表示，在查阅一名女性嫌疑人与OpenAI旗下ChatGPT的聊天记录后，决定对其以“谋杀罪”起诉，而非以“因伤害他人身体致死罪”起诉。该女子被控在首尔江北区实施连环杀人案。

这名20多岁、金姓女嫌疑人被指控犯有谋杀罪、重伤罪及违反《毒品管理法》。

她被控于去年12月至今年2月9日期间，在一家汽车旅馆内，将掺毒的解酒药交给三名男子。

其中两名受害者死亡，第一名受害者虽幸存但身受重伤（Two victims died, after the first survived with injuries）。

警方表示，该嫌疑人曾向AI工具ChatGPT询问：“服用安眠药再喝酒会致人死亡吗？” 调查人员将此视为证明其具备犯罪意图的证据（Investigators viewed this as evidence suggesting criminal intent）。

法律专家称，这类调查手段正变得越来越普遍。律师们指出，执法部门在对手机进行取证分析时，越来越多地会检查生成式人工智能的聊天记录。

一位要求匿名的律师称，这一变化已经影响到辩护策略（One lawyer, who requested anonymity, said the shift has influenced defense strategies）。

“我现在接手案件时，都会和当事人一起查看他们的ChatGPT对话记录（When I take on a case now, I review my clients’ ChatGPT conversations with them）。”他说。

专家指出，传统浏览器搜索与人工智能对话存在本质区别（Experts point to a fundamental difference between conventional browser searches and AI conversations）。

尽管两者都可用于获取信息，但人工智能的对话形式能更直接地暴露用户的内在思考逻辑、意图及具体目的。

已发表生成式人工智能取证相关研究的成均馆大学法医学教授郑道元（Jeong Doo-won）表示，人工智能记录可能具有更强的证据效力。

“网页浏览器搜索大多基于关键词，而与人工智能系统的交互必然以完整语句形式展开，”郑教授称，“由于提示词是以完整表述写成的，因此能更明确地保留用户的真实意图。”

不过，专家们也对相关法律与伦理问题发出警告（However, experts also warn of legal and ethical concerns）。

与生成式人工智能的对话通常包含高度敏感的个人信息，这引发了关于隐私、比例原则及数字证据收集合法范围的争议。

人工智能安全研究所所长金明柱（Kim Myung-joo）警告，不应过度扩大对人工智能记录的调查使用范围。

他对韩联社表示：“一旦发生犯罪，执法部门可能试图调取一个人全部的人工智能对话记录，并主张犯罪意图在案发前很久就已存在。”

他警告，随意扣押、调取AI聊天记录，未来可能引发人权争议（He warned that indiscriminate seizures of AI chat histories could trigger future human rights disputes）。

金明柱还谈到了当下围绕人工智能责任的争论，尤其是在人工智能教唆或协助犯罪的情况下。

“最棘手的问题是责任归属，”他说，“普通产品受产品责任法管辖，但人工智能系统并不完全适用这一框架。这最终是整个社会必须解决的难题。”