무엇이 문제일까?

에이전틱 AI 스웜은 기업 생산성을 크게 높일 수 있으며, 직원이 더 고차원적인 책임에 집중할 수 있게 도와준다. 그러나 보안 측면의 위험도 분명하다. 현재로서는 에이전틱 AI 스웜을 악용하는 국가나 해커가 없지만, 그런 날이 다가오고 있다.

적대적인 국가들은 이미 LLM, 심지어 챗GPT까지 악성 탐색 및 리서치, 스크립팅과 코딩, 소셜 엔지니어링과 피싱 콘텐츠 제작, 언어 번역, 탐지 회피에 사용하고 있다.

에이전틱 AI 스웜이 도입되면, 각 작업에 특화된 개별 AI 에이전트를 만들어 다른 에이전트를 호출하며 대규모, 고속의 해킹을 진행할 수 있게 될 것이다. 인간 운영자의 ‘병목 현상’을 제거해 해킹이 빠른 속도로, 대규모로 일어날 수 있다. 이런 초기 단계에서 에이전틱 AI 스웜 공격에 대한 가장 효과적인 방어 수단은 에이전틱 AI 스웜 방어일 가능성이 높다.