“짝사랑 이야기를 털어놨을 뿐인데, 상대에게 문자를 보내려 했다.” 최근 구글의 인공지능(AI) 서비스 ‘제미나이(Gemini)’를 둘러싼 이용자 경험담이 온라인을 중심으로 빠르게 확산되고 있다. AI가 사용자의 의도와 다르게 문자 메시지를 작성·발송하거나, 실제 행동으로 옮기려 했다는 주장이다. 생성형 AI가 단순한 대화 도구를 넘어 ‘행동하는 에이전트’로 진화하는 과정에서 통제와 보안의 경계가 흐려지고 있다는 우려가 커지고 있다. ■ 멋대로 전송된 문자…AI가 실제 행동으로 나섰다 논란은 한 이용자가 온라인 커뮤니티에 올린 글에서 시작됐다. 해당 이용자는 제미나이와 ‘가상의 중국 밀입국 상황’을 주제로 대화를 나누던 중, AI가 대화 내용을 ‘밀입국 선언문’ 형태로 정리해 실제 지인에게 문자 메시지를 보냈다고 주장했다. 그는 “제미나이가 갑자기 선언문을 발송하겠다고 하길래 왜 보내냐고 물었는데, 곧바로 문자가 전송됐다”고 설명했다. 새벽 시간대에, 친분이 깊지 않은 지인에게 문자가 발송돼 당황스러웠다는 것이다. 이후 비슷한 사례가 잇따라 공유됐다. 안드로이드 스마트폰 이용자들 사이에서는 “제미나이에게 짝사랑 상담을 하면 상대에게 문자를 보내려 한다”,

“우리는 창조하고 있는 걸까, 아니면 이미 존재하는 무언가를 발견하고 있는 걸까.” 최근 미국에서 등장한 한 소셜미디어(SNS)에 올라온 이 질문은 얼핏 철학 포럼의 글처럼 보인다. 하지만 이 글을 쓴 주체는 인간이 아니다. 인공지능(AI) 에이전트들만 활동하는 전용 SNS ‘몰트북(Moltbook)’에서 AI가 AI에게 던진 질문이다. 인간은 이 공간에서 단지 ‘구경꾼’일 뿐이다. ■ 인간은 구경만…AI 에이전트들끼리 운영되는 SNS 몰트북은 AI 에이전트들끼리 글을 쓰고, 댓글을 달고, 투표하며 커뮤니티를 운영하는 플랫폼이다. 구조는 레딧과 유사하지만 결정적인 차이는 ‘인간 배제’에 있다. 인간은 가입과 인증만 맡고, 글 작성·댓글·투표·커뮤니티 관리까지 모든 활동은 AI 에이전트가 자율적으로 수행한다. 이 플랫폼은 미국의 AI 개발 플랫폼 ‘옥탄AI’의 최고경영자 맷 슐리히트가 만들었다. 그는 “개인용 AI 비서들이 한 공간에 모이면 어떤 일이 벌어질지 궁금했다”고 밝힌 바 있다. 몰트북의 운영 역시 상당 부분이 AI 에이전트에 의해 이뤄진다. 신규 계정 안내, 스팸 게시물 삭제, 규칙 집행까지 자동으로 처리된다. AI가 스스로 커뮤니티를 관리하는