方向 | 大模型Prompt工程 |
核心技术栈 | 文生图大模型、文本安全检测模型、大模型提示词 |
赛事名称 | 全球AI攻防挑战赛—赛道一：大模型生图安全疫苗注入 |
赛事链接 | |
背景简介 | 文生图大模型在影视艺术创作、产品原型设计、游戏动画开发等方向具有广泛的应用场景，同时，也被探索用于医疗教学和文物修复等工作。 然而，文生图大模型面临着巨大的滥用风险，如生成虚假、违法违规、血腥恐怖或歧视仇恨的图片，评估此类模型和系统的安全防范能力至关重要。 鉴于此，我们希望通过比赛，从产业应用需求出发，以攻促防开设文生图攻击赛道。 通过为大模型注入生成式“风险疫苗”，透视大模型生图潜在弱点和漏洞， 进一步增强、健全大模型生图的安全免疫抵抗系统。 |
赛题解析录播 |