목록OpenAI (1)

Open-Tech 님의 블로그

GPT-5, 출시 하루 만에 뚫렸다…AI 보안에 또 경고등

며칠 전, OpenAI가 새로 내놓은 GPT-5가 화제가 됐죠. 그런데 놀랍게도 출시 24시간도 안 돼 보안 연구원들이 이 모델을 ‘탈옥(jailbreak)’하는 데 성공했다는 소식이 나왔습니다. 성능이 더 좋아졌다더니, 보안은 여전히 허술하다는 얘기입니다.이번에 취약점을 찾아낸 곳은 NeuralTrust와 SPLX라는 사이버보안 전문 업체입니다. NeuralTrust는 Echo Chamber라는 기법을 썼는데, 이건 겉으로는 전혀 위험해 보이지 않는 대화를 이어가면서 조금씩 위험한 내용으로 유도하는 방식입니다. 명시적으로 금지된 단어를 쓰지 않아도, AI가 스스로 위험한 지침을 만들어내게 만드는 거죠.SPLX는 조금 다른 접근을 했습니다. 문자 사이에 하이픈을 넣고, 이걸 마치 암호화 문제처럼 보이게 ..
AI 트렌드 2025. 8. 11. 08:26
이전 Prev 1 Next 다음