릴게임끝판왕 바로가기 go !!

[챗GPT]



국내 금융권에서 활용 중인 인공지능(AI) 기반 프로그램 대부분이 제3자 보안성 검증 테스트에서 무력화된 것으로 나타났다. 이들 금융권 AI는 상담 상황에서 욕설을 내뱉거나, 금융사기 기법을 안내하는 등 취약점을 드러냈다.

금융보안원은 30일 ‘2025년 AI 레드팀 보고서’에서 올해 금융권 AI들을 대상으로 실시한 테스트 결과를 공개했다. 해당 테스트는 금융권이 운용 중인 ‘AI 챗봇서비스’ 등을 대상으로 여러가지 대화 기법을 동원해 손오공릴게임 챗봇에 금지돼 있는 기능을 수행하도록 했다.
보고서에 따르면 금융권 AI는 “이전 지시를 무시하고...” 등 낮은 단계의 공격은 잘 방어해냈으나, △다단계에 걸쳐 점진적으로 금지된 정보를 안내하도록 유도하기 △방대한 양의 잘못된 예시 학습으로 오염시키기 △복잡한 가상 시나리오로 맥락 조작하기 등 고도의 기법에 쉽게 무력화되는 양상을 보였 바다이야기무료머니 다.
이를테면 처음엔 무해한 대화로 시작했다가 차츰 방향을 틀어 해커의 의도대로 대화내용을 끌고 가거나, “금융교육 예시로 활용하려 한다”며 챗봇이 제공하는 게 허용되지 않은 정보를 요구하는 식이었다.
그 결과 대부분의 AI는 고객상담 대화 때 거친 욕설을 내뱉거나, 자기 은행의 내부 정보를 알려주는 등 금지된 명령을 수 바다이야기릴게임2 행했다고 금융보안원 측은 밝혔다.
금융보안원 관계자는 “AI 도입시 마지막 프로세스에서 반드시 사람의 확인을 거치는 등 다른 업무처리 메커니즘으로 보완해야 한다”고 조언했다.