关于EmailGPT存在潜在的受到提示注入攻击的风险的分析

　　EmailGPT是一个基于人工智能的自然语言处理模型，旨在帮助用户撰写高效、准确和流畅的电子邮件。它由OpenAI开发，构建在GPT-3(Generative Pre-trained Transformer 3)模型的基础上，专注于邮件写作领域。

　　一、基本内容

　　在EmailGPT服务中发现了一个新的漏洞，它是一个谷歌浏览器扩展和API服务，利用OpenAI的GPT模型来帮助用户在Gmail中撰写电子邮件。

　　这个由Synopsys网络安全研究中心(CyRC)研究人员发现的漏洞尤其令人担忧，因为它使攻击者可以通过提交恶意提示来控制AI服务。

　　这些恶意提示可以强制系统泄露敏感信息或执行未经授权的命令。值得注意的是，任何能够访问EmailGPT服务的人都可以利用这个问题，引发对广泛滥用的担忧。

　　EmailGPT软件的主分支受到影响，存在重大风险，包括知识产权盗窃、拒绝服务攻击以及由于重复未经授权的API请求导致的财务损失。

　　该漏洞被赋予了CVSS基本评分6.5，表明中等严重性水平。尽管有多次尝试联系开发人员的报告，CyRC在他们的90天披露期内没有收到回应。因此，CyRC建议用户立即从网络中移除EmailGPT应用程序，以减轻潜在风险。

　　Salt Security的网络安全战略总监Eric Schwake强调了这一情况的严重性。他指出，这个漏洞不同于典型的提示注入攻击，因为它允许通过代码利用直接操纵服务。他还呼吁组织对所有已安装的应用程序进行审计，特别关注那些使用AI服务和语言模型的应用程序。

　　Schwake补充说：“该审计应该识别类似于EmailGPT的应用程序，评估它们的安全措施，这些应用程序依赖于外部API服务。”

　　SlashNext的首席执行官Patrick Harr也对此发表了评论，强调了在AI模型开发中坚实的治理和安全实践的必要性。

　　Harr表示：“安全和治理是构建和验证通过应用程序或API提供AI模型的公司文化和卫生的核心。客户，特别是企业，在将其纳入业务之前需要要求供应商证明他们如何保护自己的数据访问。”

　　二、分析研判

　　发现的漏洞使攻击者能够通过恶意提示来控制EmailGPT服务，导致系统泄露敏感信息或执行未经授权的命令。

　　这个漏洞对EmailGPT软件主分支造成了重大风险，可能导致知识产权盗窃、拒绝服务攻击以及由于未经授权的API请求而引起的财务损失。

　　漏洞被赋予中等严重性水平的CVSS基本评分6.5。

　　报告者在90天披露期内多次尝试联系开发人员，但没有收到回应。

　　缺乏开发者的响应可能增加了潜在的风险和安全问题。

　　三、应对策略

　　立即移除应用程序：根据CyRC的建议，用户应立即从网络中移除EmailGPT应用程序，以减轻潜在风险。

　　加强开发者响应和漏洞修复：开发人员应积极响应报告，并及时修复漏洞。他们应该重视安全问题，并确保在发现漏洞后采取适当的措施。

　　进行应用程序审计：组织应该对所有已安装的应用程序进行审计，特别关注使用AI服务和语言模型的应用程序。评估它们的安全措施，尤其是依赖外部API服务的应用程序，以确保数据和系统的安全性。

　　强调安全和治理实践：供应商和开发者在AI模型开发中应坚守安全和治理实践的原则。这包括确保构建和验证通过应用程序或API提供AI模型的公司文化和卫生的核心。供应商应向客户提供证明，说明他们如何保护数据访问的措施。

　　持续监测和改进：不仅应及时修复漏洞，还应定期进行安全审查和监测，以及改进安全性的措施。这有助于及早发现并防范潜在的风险和漏洞。