在此次AI渗透测试项目中，TÜV莱茵的专家将针对AI驱动的网络应用进行网络安全测试。

测试目标包括发现网络应用中的经典漏洞，并识别因连接AI系统所产生的特定风险。网络应用连接生成式人工智能模型后，会存在如提示词注入、敏感信息披露、供应链漏洞、数据与模型污染、系统提示泄漏与训练数据中毒等潜在安全威胁并最终影响网络应用。以提示词注入为例，黑客通过设计过的恶意输入操纵大型语言模型，从而导致大语言模型忽略应用创建者的系统提示，执行返回私人、危险或其他不希望出现的信息提示。

TÜV莱茵的安全专家通过系统性的人工智能网络安全渗透测试与漏洞分析策略及时确认漏洞并部署防御措施，有效确保设备自身的安全性，保护企业和用户免受网络安全风险带来的损失。