微软报告称 GPT-4 易受越狱提示词影响，生成不好内容

发布时间：2023-10-18 11:00:14 所属栏目：外闻来源：转载

导读： 　　最近，微软的研究团队发表了一篇论文，详细探讨了大型语言模型(LLM)的可信度以及潜在的危害性，特别是关注了OpenAI的GPT-4及其前身GPT-3.5。

　　虽然GPT-4的研究小组能够执行更

　　最近，微软的研究团队发表了一篇论文，详细探讨了大型语言模型(LLM)的可信度以及潜在的危害性，特别是关注了OpenAI的GPT-4及其前身GPT-3.5。

　　虽然GPT-4的研究小组能够执行更强大的计算并具有更高的准确性，但他们可能更容易成为"越狱"（从安全性限制）中攻击的目标。GPT-4 可能会根据这些“越狱”提示，生成有害内容。

　　论文中强调 GPT-4 更容易受到恶意“越狱”系统或用户提示影响，会准确地遵循（误导性）指令，生成不良内容，微软强调这个潜在漏洞不会影响当前面向客户的服务。微软表示，这个漏洞可能导致windows操作系统崩溃，从而造成重大损失。

（编辑：好传媒网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!