亚利桑那州一家上诉法院撤销了一项10年过失杀人罪判决，原因是法官采信了一段由AI生成的、让已故受害者开口说话的视频——对于所有担心虚假媒体内容进入司法系统的人来说，这是一个警示信号。

• 受害者的姐姐利用弟弟的面容和声音制作了一个AI版本的他，在量刑环节发表陈述——据信这是美国法庭上首次出现这种情况。
• 上诉法院表示，这些话语是编造的，没有人披露是谁撰写的，也没有证据表明它们与他本人的真实想法相符。
• 视频中谈到了宽恕，并未要求判处刑罚，但法官仍然作出了更重的判决。
• 这个显而易见的问题是双向的：辩护团队同样可以轻易伪造一名受害者要求不予监禁。
• 另外，一家初创公司声称其新模型能够进行足以冒充真人的视频通话，这预示着虚假通话与诈骗将大量涌现。

展望：预计各地法院将开始就AI生成的证据制定规则，而这名男子现在面临重新量刑。