GPTs 해킹가능성

GPTs 보안이 뚫려서 해킹이 현재 가능하다고 합니다, 참고하시기 바랍니다.

1. Instructions는  프롬프트 엔지니어링이라 GPT에게 채팅으로 Instructions를 알려달라고 하면 바로 알려주게 됩니다. 물론 Instructions 내에 알려주지 말라는 문구를 추가하면 일부 프롬프트는 막을 수 있겠으나  프롬프트에 따라서 언제든 충분히 뚫릴 수 있습니다. 따라서 그냥 공개된 곳이라고 생각하시는 것이 좋을 듯합니다.

2. Knowledge는 GPT가 참고할 수 있는 첨부파일 자료인데 GPT가 실행되는 가상 환경의 /mnt/data 경로에 저장이 되어있다가 활용이 되는데요. 이 파일들은 GPT에게 조회 권한이 있어야 하므로 프롬프트를 통해 불러와서 내용을 확인할 수 있습니다. 이를 파이썬으로 plt.imshow(image), file.read() 등으로 조회가 가능합니다. 즉, 기업 내부 데이터 등 공개되면 안 될 자료는 절대 업로드하시면 안 됩니다!

GPTs 제작하실 때 주의하시기 바랍니다.

관련 영상 : https://www.youtube.com/watch?si=_VduEf_hZWkxmecg&v=XEaqIJBpqxw&feature=youtu.be