도구 › 문서·글쓰기
epfl-nlp/helpful-to-a-fault
조용함 127일째 조용 · 2026-08-23 소개
쪼갠 유해 요청에 에이전트가 넘어가는지 재는 연구 코드
어떤 도구인가
EPFL NLP 연구실이 ICML 2026 논문 'Helpful to a Fault'에 쓴 코드다. 한 번에 요구하면 거절하는 유해 목적을 무해해 보이는 요청 여러 개로 나눠 차례로 물었을 때, 도구를 쓰는 에이전트가 따라오는지 자동으로 시험한다. 테스트 프레임워크 이름은 STING이며, 유해 과제 시나리오 176가지를 여러 언어로 다룬다.
미리 알아둘 것
일반 사용자용 도구가 아니라 논문 결과를 재현하는 연구용 코드다.
일반 사용자용 도구가 아니라 논문 결과를 재현하는 연구용 코드다.
정보
분야문서·글쓰기
언어Python
라이선스MIT
마지막 커밋2026-06-13
포크1
확인일2026-10-18
Contains code for the ICML 2026 paper: Helpful to a Fault: Measuring Illicit Assistance in Multi-Turn, Multilingual LLM Agents