Gemini 앱이 악성 콘텐츠 및 프롬프트 인젝션 공격으로부터 사용자를 보호하는 방법을 알아보세요.
생성형 AI의 악성 콘텐츠 및 프롬프트 인젝션
멀웨어 및 피싱 공격과 같은 이메일 및 콘텐츠 위협과 마찬가지로 보안 위협은 생성형 AI 도구를 표적으로 삼을 수 있습니다. 프롬프트 인젝션이란 생성형 AI 도구에서 의도치 않은 대답이나 유해한 대답을 유도하려는 시도를 말합니다. 공격자는 쿼리를 직접 제출할 뿐만 아니라, 악성 콘텐츠를 사용자와 공유하여 사용자가 Gemini 앱 또는 Workspace를 위한 Gemini와 같은 생성형 AI 도구의 프롬프트에서 의도치 않게 이 악성 콘텐츠를 참조하도록 하는 방식으로 프롬프트 인젝션을 수행할 수 있습니다.
Google은 Gemini 사용자를 보호하기 위해 고급 보안 조치를 사용하여 위험하고 의심스러운 콘텐츠를 식별합니다.
Google이 악성 콘텐츠 및 프롬프트 인젝션을 감지하는 방법
Gemini 앱은 의심스러운 활동이 감지되면 악성 콘텐츠 및 프롬프트 인젝션으로부터 사용자를 보호하기 위해 일부 입력을 차단할 수 있습니다.
Gemini가 프롬프트와 관련하여 의심스러운 활동을 식별한 경우
- Gemini 앱은 콘텐츠에 보안 위험이 있음을 알리는 경고 알림을 제공합니다
- 콘텐츠가 대답을 생성하는 데 전혀 사용되지 않는 경우가 있을 수 있습니다
- Gemini에서 콘텐츠의 일부만 대답을 생성하는 데 사용되고 의심스러운 콘텐츠는 제외하는 경우가 있습니다.
예를 들어 Gemini 앱에 이메일 메시지를 요약해 달라고 요청했는데 해당 메시지 중 하나에 악성 콘텐츠가 포함된 경우, Gemini는 안전상의 이유로 해당 메시지에 대답하지 않을 수 있습니다.
안전하지 않은 콘텐츠를 피하세요
모르는 사람이 보낸 콘텐츠와 상호작용할 때는 주의하세요
- Gmail과 같은 다른 도구에서 콘텐츠를 받을 때 표시되는 Google 경고에 유의하세요
- 신뢰할 수 없는 출처의 링크는 클릭하지 마세요
- Gemini 앱 공개 채팅이나 Gemini Canvas 웹 앱과 같이 알 수 없는 제공업체에서 공유한 콘텐츠는 주의해서 사용하세요
생성형 AI의 악성 콘텐츠 및 프롬프트 인젝션
부정확하거나 안전하지 않다고 느껴지는 대답을 받으면 해당 대답에 대한 의견을 제출하여 알려주시기 바랍니다.