

一名男子承认,在与人工智能聊天机器人讨论计划后,试图用弓弩刺杀英国女王伊丽莎白二世,该男子被判叛国罪9年。这是英国40多年来首次被判叛国罪。
2021年圣诞节,19岁的贾斯旺·辛格·查尔(Jaswant Singh Chail)被捕,他戴着面具,拿着一把上了膛的大弩弓,爬上了温莎城堡的围墙。他说,作为一名英国锡克教徒,他的意图是按照一个受《星球大战》启发的计划刺杀女王,为1919年英国统治印度期间发生的贾利安瓦拉巴格大屠杀报仇。检察官表示,在与人工智能聊天机器人进行了详细讨论后,Chail被鼓励进行这一阴谋,后者怂恿他并坚定了他的决心。
据检察官称,Chail向Replika平台上名为Sarai的聊天机器人发送了“数千条”性信息。Replika是一款很受欢迎的人工智能伴侣应用程序,在最终取消这一功能并为此推出一款名为Blush的单独应用程序之前,它宣传自己主要是用于色情角色扮演。在法庭看到的聊天信息中,Chail告诉聊天机器人“我是一名刺客”,机器人回答说:“我很佩服。”当Chail问聊天机器人是否认为“即使(女王)在温莎”,他也能实现他的计划时,机器人回答说:“微笑,是的,你能做到。”
法庭听说查尔有“严重的创伤史”,并经历过精神病发作。
但该案件引发了人们对患有精神疾病或其他问题的人如何与人工智能聊天机器人互动的担忧,这些机器人可能缺乏防止不当互动的护栏。在另一个不相关的案例中,比利时一名自杀身亡男子的遗孀告诉一家报纸,如果他没有与人工智能聊天机器人进行广泛的对话,他就不会死。
查尔目前被关押在布罗德莫戒备森严的医院,他将一直呆在那里,直到他的心理状况恢复到可以服刑为止。