关于新的“LLMjacking”攻击利用被盗的云凭据的分析

　　LLMjacking是一种新兴的网络攻击技术，它利用语言模型劫持(Language Model Hijacking)进行社交工程攻击。这种攻击方法基于对大型语言模型(如GPT-3)的滥用，通过与用户进行对话来误导、欺骗或操纵他们。LLMjacking的攻击者可以使用语言模型来模拟真实的人类对话，并试图获得用户的个人信息、敏感数据或执行恶意操作。攻击者可能会冒充信任的实体，如客服代表、银行员工或其他专业人士，以获得用户的信任和合作。

　　一、基本内容

　　根据Sysdig威胁研究团队最近的研究，他们揭示了一种名为“LLMjacking”的新型网络攻击。这种攻击利用被盗的云凭据来针对托管在云中的大型语言模型(LLM)服务。

　　攻击者通过利用Laravel的一个存在漏洞的版本(CVE-2021-3129)获取了这些凭据。不同于以往关于基于LLM的人工智能系统的讨论，这次攻击旨在将LLM访问权限出售给其他网络犯罪分子，而合法的云账户所有者则要承担费用。

　　攻击者泄露了云凭据以获取对云环境的访问权，然后他们针对由云提供商托管的本地LLM模型。攻击对象包括Anthropic的本地Claude(v2/v3)LLM模型，如果不被察觉，可能导致受害者每天超过46,000美元的LLM消耗成本。

　　研究人员还发现了使用反向代理来访问被攻击账户的证据，并且攻击者对不同服务中的LLM模型表现出兴趣，利用工具检查了十种不同人工智能服务的凭据。

　　为了减轻这类攻击，Sysdig建议实施漏洞和秘密管理实践，并采用云安全姿势管理(CSPM)或云基础设施授权管理(CIEM)解决方案，以最小化权限并防止未经授权的访问。

　　这种LLMjacking攻击的出现提醒我们，网络攻击者具有创新性，并不仅限于滥用LLM模型中的数据，而是寻求获得对LLM本身的访问权限。因此，保护云环境、加强漏洞和凭据管理，以及采取适当的云安全措施变得至关重要。

　　二、分析研判

　　根据上述文章，LLMjacking是一种新型的网络攻击，利用被盗的云凭证来针对托管在云中的大型语言模型(LLM)服务。这种攻击的目标是将LLM的访问权限出售给其他网络犯罪分子，并使合法的云账户所有者承担费用。

　　攻击者利用Laravel的一个存在漏洞的版本(CVE-2021-3129)获取了这些凭据，然后通过外泄云凭证获得了对云环境的访问权限。他们主要针对由云提供商托管的本地LLM模型，其中包括Anthropic的本地Claude(v2/v3)LLM模型。如果不被察觉，这可能导致受害者每天超过46,000美元的LLM消耗成本。

　　使用LLM是非常昂贵的，攻击者可以以各种方式消耗受害者的LLM资源，例如向LLM提出问题并获取答案、尝试提取敏感数据、编写恶意代码或发现漏洞。攻击者还展示了对不同服务中LLM模型的兴趣，并利用工具检查了多种人工智能服务的凭证，如AWS Bedrock、Azure和GCP Vertex AI等。

　　为了减轻这类攻击，Sysdig建议实施漏洞和秘密管理实践，并采用云安全姿势管理(CSPM)或云基础设施授权管理(CIEM)解决方案，以最小化权限并防止未经授权的访问。

　　综上所述，LLMjacking是一种严重的网络威胁，攻击者不仅仅滥用LLM模型中的数据，还试图获取对LLM本身的访问权限。保护云环境，加强漏洞和凭证管理，以及采取适当的云安全措施成为至关重要的任务。

　　三、应对策略

　　实施漏洞和秘密管理实践：确保及时修补系统中存在的漏洞，并遵循良好的凭证管理实践，例如定期更换凭证、使用强密码等。

　　采用云安全姿势管理(CSPM)：CSPM解决方案可以帮助监测和管理云环境中的安全配置问题，提供自动化的安全检查和修复建议，以减少安全漏洞的风险。

　　采用云基础设施授权管理(CIEM)：CIEM解决方案可以帮助管理和监控云环境中的访问权限，确保只有经过授权的用户和服务能够访问敏感资源。

　　最小化权限：限制每个用户或服务的权限，将其权限精确到最低必要级别。这样可以减少潜在的攻击面和错误操作的风险。

　　监控和审计：实施实时监控和日志记录，以便及时发现异常活动并进行调查。审计日志可以帮助追踪和分析潜在的安全事件。

　　增强身份验证和访问控制：采用多因素身份验证、单一签入(SSO)和强化的访问控制策略，以加强对云环境的访问控制。

　　教育和培训：提高员工和用户的安全意识，教育他们如何辨别和防范网络攻击，并且定期进行安全培训。

　　通过综合以上策略，可以减轻LLMjacking攻击的风险，并保护托管在云中的大型语言模型服务。