챗GPT(chatGPT) 사이버 범죄 해킹 악용될 가능성 발견!

사이버 범죄자들이 AI 챗봇을 해킹하고 맬웨어 명령을 범람시키는 방법을 개발하면서 ChatGPT 시리즈 에 새로운 위협이 등장했습니다.

리서치 회사인 체크포인트는 해커가 OpenAI의 GPT-3 API에 침투하여 코드를 변경하여 피싱 이메일 및 맬웨어 스크립트에 사용할 수 있는 텍스트와 같은 악성 콘텐츠를 생성할 수 있는 봇을 설계했음을 발견했다고 밝혔습니다.

봇은 메시징 앱 Telegram을 통해 작동합니다. 한 관계자에 따르면 나쁜 행위자는 봇을 사용하여 제한 없는 어두운 버전의 ChatGPT를 설정하는 것이 가능하다고도 말했습니다.

ChatGPT 에는 불쾌하거나 부적절한 것으로 간주될 수 있는 콘텐츠를 생성하는 경우, 학습 알고리즘의 일부로 누를 수 있는 좋아요 및 싫어요 버튼이 있습니다 . 일반적으로 악성 코드 생성이나 피싱 이메일과 같은 입력은 허용되지 않으며, ChatGPT는 응답을 거부합니다.

하지만, 악용된 챗봇은 쿼리 100개당 6달러의 가격표를 가지고 있으며, 해커는 이 버전으로 생성할 수 있는 나쁜 콘텐츠에 대한 팁과 예를 제공합니다. 해커들은 또한 GitHub에서 사용할 수 있는 스크립트를 만들었습니다. OpenAI, API 기반 스크립트는 텍스트 생성 명령을 통해 피싱 이메일을 생성하는 것 외에도 사용자가 비즈니스나 사람을 위조할 수 있는 기능을 가지고 있습니다. PC Gamer 에 따르면 봇은 이메일의 피싱 링크를 이상적인 위치에 배치하는 데 도움을 줄 수도 있습니다.

반응형

이 개발이 앞으로 나아가는 AI 텍스트 생성기에 얼마나 많은 위협이 될지, 특히 점점 더 대중화되는 이 기술을 이미 사용하기로 약속한 주요 회사들에게 얼마나 큰 위협이 될지 알기 어렵습니다.  마이크로소프트 Bing은 OpenAI와의 지속적인 협력의 일환으로 향후 업데이트에서 곧 브라우저에 ChatGPT 지원을 추가할 예정이므로 더욱 그렇습니다.

ChatGPT는 가까운 장래에 무료로 유지되지만 ChatGPT Plus 우선 구독을 제외하면 AI 텍스트 생성기가 사기꾼의 표적이 된 것은 이번이 처음이 아닙니다. 1월에는 현재 브라우저 기반 서비스인 챗봇의 iOS 및 Android 모바일 앱 버전을 지불한 후 수천 명의 사람들이 속았다는 뉴스가 나왔습니다.

Apple App Store 버전은 3일 평가 후 주간 구독료가 8달러였음에도 불구하고 특히 인기가 많았습니다. 사용자는 월간 구독료 $50를 지불할 수 있는 옵션도 있었는데, 이는 특히 주간 비용보다 훨씬 비쌌습니다. 이 앱은 언론의 주목을 받은 후 결국 애플 스토어에서 제거되었습니다.

ChatGPT는 인기가 급상승했기 때문에 확실히 사기꾼의 주요 표적이지만 나쁜 행위자가 결국 순환하는 많은 ChatGPT 대안 중 하나에 뛰어들지는 두고 볼 일입니다.