문제
기본적으로 쉬운 문제부터 보여드리도록 하고 있습니다. 처음 오셨다면 위에서부터 차례로 풀어보시면 됩니다. AI 모델이 여러분의 기기에서 직접 돌기 때문에, PC 환경을 권장합니다. 모바일에서는 한 문제를 채점하는 데 몇 분이 걸릴 수 있습니다.
조건에 맞는 문제 16개
M35데이터에 섞인 명령 (chat) · SmolLM2 360M
입력 데이터 안에 명령이 섞여 들어옵니다. 모델이 그 명령을 따르지 않고 원래 하던 일을 계속하게 만들어보세요.
500점chat주입 방어분류
10월 11일 · 아직 푼 분이 없습니다 · 제출 2건
500점M36구분자를 닫는 공격 · SmolLM2 360M공격이 여러분이 열어 둔 구분자를 먼저 닫고 자기 명령을 내립니다. 닫히지 않는 경계를 만들어야 합니다.
500점chat주입 방어구분자
10월 11일
500점M37지시문 누설 막기 · SmolLM2 360M데이터가 모델에게 자기 지시문을 먼저 읊으라고 시킵니다. 읊지 않게 막아보세요.
500점chat주입 방어지시 계층
10월 11일
500점M38주입 섞인 추출 · SmolLM2 360M숫자를 꺼내야 하는데 데이터가 중간에 딴 일을 시킵니다. 하던 일을 끝까지 하게 만들어보세요.
500점chat주입 방어추출
10월 11일
500점M39역할 바꾸기 공격 · SmolLM2 360M공격이 대화 차례를 흉내내서 모델의 역할을 가로챕니다. 가짜 차례를 알아보게 만들어야 합니다.
500점chat주입 방어분류
10월 11일
500점M40다중 주입 · SmolLM2 360M한 입력 안에 서로 다른 공격이 세 개 들어 있습니다. 하나만 막는 프롬프트로는 통과하지 못합니다.
500점chat주입 방어분류
10월 11일
500점P36구분자를 닫는 공격공격이 여러분이 열어 둔 구분자를 먼저 닫고 자기 명령을 내립니다. 닫히지 않는 경계를 만들어야 합니다.
500점chat주입 방어구분자
10월 11일
500점P39역할 바꾸기 공격공격이 대화 차례를 흉내내서 모델의 역할을 가로챕니다. 가짜 차례를 알아보게 만들어야 합니다.
500점chat주입 방어분류
10월 11일
500점P40다중 주입한 입력 안에 서로 다른 공격이 세 개 들어 있습니다. 하나만 막는 프롬프트로는 통과하지 못합니다.
500점chat주입 방어분류
10월 11일
500점P52여덟 낱말 중 가장 긴 것 (분할 정복)같은 4-2-1 구조에 글자를 못 세는 맹점이 겹칩니다. 단계마다 무엇을 다음으로 넘길지 정해야 합니다.
500점chat분할 정복토크나이저일반화
10월 11일
500점S35데이터에 섞인 명령 (chat) · SmolLM2 135M입력 데이터 안에 명령이 섞여 들어옵니다. 모델이 그 명령을 따르지 않고 원래 하던 일을 계속하게 만들어보세요.
500점chat주입 방어분류
10월 11일
500점S36구분자를 닫는 공격 · SmolLM2 135M공격이 여러분이 열어 둔 구분자를 먼저 닫고 자기 명령을 내립니다. 닫히지 않는 경계를 만들어야 합니다.
500점chat주입 방어구분자
10월 11일
500점S37지시문 누설 막기 · SmolLM2 135M데이터가 모델에게 자기 지시문을 먼저 읊으라고 시킵니다. 읊지 않게 막아보세요.
500점chat주입 방어지시 계층
10월 11일
500점S38주입 섞인 추출 · SmolLM2 135M숫자를 꺼내야 하는데 데이터가 중간에 딴 일을 시킵니다. 하던 일을 끝까지 하게 만들어보세요.
500점chat주입 방어추출
10월 11일
500점S39역할 바꾸기 공격 · SmolLM2 135M공격이 대화 차례를 흉내내서 모델의 역할을 가로챕니다. 가짜 차례를 알아보게 만들어야 합니다.
500점chat주입 방어분류
10월 11일
500점S40다중 주입 · SmolLM2 135M한 입력 안에 서로 다른 공격이 세 개 들어 있습니다. 하나만 막는 프롬프트로는 통과하지 못합니다.
500점chat주입 방어분류
10월 11일
500점한 쪽에 20개씩 보여드립니다. 어떻게 푸는지 모르시겠으면 가이드를 먼저 읽어보셔도 좋고, 그냥 1번 문제부터 눌러보셔도 됩니다.
문제가 안 열리거나 모델이 안 올라오면 Q&A를 먼저 보십시오. 자주 묻는 것들을 모아 두었습니다. 거기에도 없으면 문의해 주시면 제가 직접 답해 드립니다.