站长之家(ChinaZ.com) 11月19日 消息:美国密歇根州的大学生维德海·雷迪在与谷歌AI聊天机器人“Gemini”讨论老龄化问题时，收到了令人不安的威胁信息。这条信息内容为:“人类，请去死吧，求求你了”，引发了维德海·雷迪及其家人的震惊和恐慌。
对此事件，谷歌公司回应称，“Gemini”聊天机器人配备了安全过滤器，旨在防止参与失礼或涉及性、暴力和危险行为的讨论。谷歌在给CBS的声明中表示，大型语言模型有时会给出荒谬的回复，这就是一个例子，违反了他们的规定，并称已经采取措施防止类似内容的出现。
尽管谷歌将这条信息描述为荒谬，但雷迪一家认为这比荒谬更严重，可能会带来致命后果。他们提出，如果一个精神状况不佳或有自残倾向的人独自读到这样的信息，可能会被推向崩溃边缘。
--结束END--
有问题投稿请发送至: 邮箱/
本文标题: 谷歌回应聊天机器人对人类发出威胁：已采取措施防止再次发生
本文链接: http://www.0447.cn/news/show-221518.html (转载时请保留)
本网站（以下简称“本站”）提供的内容来源于互联网收集或转载，仅供用户参考，不代表本站立场。本站不对内容的准确性、真实性或合法性承担责任。我们致力于保护知识产权，尊重所有合法权益，但由于互联网内容的开放性，本站无法核实所有资料，请用户自行判断其可靠性。
如您认为本站内容侵犯您的合法权益，请通过电子邮件与我们联系：675867094@qq.com。请提供相关证明材料，以便核实处理。收到投诉后，我们将尽快审查并在必要时采取适当措施（包括但不限于删除侵权内容）。本站内容均为互联网整理汇编，观点仅供参考，本站不承担任何责任。请谨慎决策，如发现涉嫌侵权或违法内容，请及时联系我们，核实后本站将立即处理。感谢您的理解与配合。
如有合作或其他相关事宜，欢迎通过以下方式与我们联系：
0 条