구글의 인공지능 챗봇 제미나이의 산행 조언을 그대로 믿었다가 미국 캘리포니아주 마운트샤스타에서 세 명의 젊은 등반객이 하룻밤을 야외에서 보낸 뒤 구조되는 사고가 일어났습니다. 시스키유 카운티 보안관 사무소의 공식 발표에 따르면 이들은 제미나이가 추천한 식량과 물의 양이 실제 필요량보다 턱없이 부족했고, 결국 정상 도달 후 하산하지 못한 채 구조를 요청하게 됐습니다.
이 사건은 인공지능이 일상적인 정보 검색부터 전문 의사결정까지 깊숙이 침투한 시대에 우리가 어디까지 AI를 의존해야 하는지 되묻는 사례로 기록될 만합니다. 등반이라는 고위험 야외 활동에서 챗봇의 한계를 맨몸으로 겪은 세 사람의 실수, 그리고 그 뒤에 숨은 기술적 문제와 책임 소재를 짚어봅니다.
마운트샤스타는 캘리포니아 북부 시스키유 카운티에 위치한 해발 약 4,322미터의 화산으로, 미국 서부에서 기술적 등반을 연습하는 이들에게 인기가 높은 산이기도 합니다. 매년 봄부터 여름까지 등반 시즌이 이어지지만, 기상 변화가 극심하고 고도가 높아 체력 부담이 상당한 편에 속합니다.
1. 마운트샤스타에서 벌어진 16시간의 악몽
세 명의 젊은 등반객은 현지 시각 새벽 3시, 마운트샤스타 등반을 시작했습니다. 현지 가이드와 미국 산림청의 공식 안내에 따르면 정상에 도착하지 못한 등반객은 정오 이전에 반드시 되돌아와야 하는데, 이들은 결국 오후 7시가 돼서야 봉우리에 도달했습니다. 계획상 8시간이면 끝나야 할 등반이 16시간짜리 사투로 변질된 순간이었습니다.
정상에서 사진을 남기고 돌아섰지만 이미 해는 진 지 오래됐고, 어둠 속에서의 하산은 위험천만했습니다. 셋은 결국 911이 아닌 보안관 사무소에 전화를 걸어 방향을 물었고, 통신이 끊기기 전 마지막 위치 기준으로 머드 크릭 캐년 근처에 고립된 것으로 추정됩니다. 구조대가 투입될 때까지 그들은 차가운 야외에서 밤을 넘겨야 했습니다.
다음 날 아침, 산림청 레인저와 자원봉사자들로 구성된 구조팀이 헬기와 도보 수색을 동시에 전개해 세 명을 무사히 인계받았습니다. 다행히 인명피해는 없었지만, 고산병과 저체온증 직전까지 갔던 것으로 알려졌습니다. 이 사고는 미국 서부 산악 구조 통계에서 매년 비슷한 패턴으로 반복되는 “야간 고립 사건”의으로 기록될 전망입니다.
8시간 등반이 16시간으로 두 배가 늘었고, 정오 귀환 원칙마저 어기면서 야간 고립까지 이어진 전형적인 시간 예산 실패 사례입니다.
2. 제미나이가 알려준 숫자의 문제
시스키유 카운티 보안관 사무소가 공개한 성명에는 “세 명은 그룹 전체가 필요로 하는 식량과 물보다 훨씬 적게 챙기라고 제미나이로부터 조언을 받았다”는 직접 인용이 포함돼 있습니다. 고도 4,000미터급 화산을 16시간 가까이 이동하는 상황에서 부족한 보급품은 곧 체온 저하와 탈수로 직결됩니다. 전문가들이 평소 권하는 하루 최소 물 4리터, 열량 3,000킬로칼로리 기준과 비교하면 제미나이의 답변이 얼마나 빈약했는지 짐작할 수 있습니다.
문제는 식량과 물의 양만이 아니었습니다. 챗봇은 등반 코스의 기술적 난이도, 야간 하산의 위험성, 기상 변화 가능성 등등 변수들을 종합적으로 반영하지 못한 것으로 파악됩니다. 마운트샤스타는 여름에도 영하로 떨어지는 밤기온, 갑작스러운 뇌우, 얼음 구간에서의 크레바스 위험까지 안고 있는 산입니다. 그런데 제미나이가 어떤 경로를 안내했고 어떤 복장 목록을 제시했는지는 현재로선 정확히 확인되지 않았습니다.
이 사건은 대규모언어모델이 가진 고질적 한계를 적나라하게 드러냅니다. 학습 데이터에 분명한 통계가 부족한일수록, 또 실시간 변수에 민감한 주제일수록 환각 현상과 단편적 답변을 내놓을 확률이 높아집니다. 야외 활동처럼 안전이 직결되는에서 챗봇을 “전문가 동등”으로 간주하는 순간, 사고는 거의 예고된 셈입니다.
챗봇은 평균적인 데이터에 기반해 답을 만들기 때문에, 극단적 변수에 취약합니다. 식량과 물, 안전 장비, 시간 예산 같은 핵심 항목은 반드시 공식 안내로 교차 검증해야 합니다.
3. 왜 하필 제미나이었을까
구글 제미나는 2024년 초 대규모 공개 이후 스마트폰, 검색, 사무 업무 전반으로 빠르게 확산된 인공지능 챗봇입니다. 한국에서도 2025년부터 갤럭시 기본 앱으로 탑재되면서 일반 사용자의 접근성이 크게 높아진 상태입니다. 무료 버전도 풍부한 정보를 제공하기 때문에 여행, 요리, 운동 같은 일상 질문에서 가장 먼저 떠올리는 도구로 자리 잡았죠.
하지만 등반 같은 고위험 야외 활동의 경우, 챗봇이 아무리 자연스러운 문장으로 답하더라도 결국 학습된 텍스트의 통계적 조합에 불과합니다. 산악 가이드 협회나 산림청 같은 공인 기관은 매년 현장 데이터를 축적하지만, 챗봇의 학습 데이터에는 이런 세밀한 현장 변수가 충분히 반영되지 않을 가능성이 높습니다. 실제로 마운트샤스타 같은 산은 등반로 상태, 얼음벽 두께, 모레 눈사태 위험 구역까지 매년 바뀌는 살아 있는 정보입니다.
또 한 가지 흥미로운 점은 이들이 챗봇을 선택한 이유 자체입니다. 미국 내 등반 커뮤니티에 따르면 Z세대와 밀레니얼 세대 등 젊은 등반객 사이에서 “AI 플래너”를 여행 준비의 기본 도구로 쓰는 비율이 빠르게 늘고 있습니다. 전통적인 가이드북, 산악회 게시판, 지역 레인저 상담 대신 챗봇에 의존하는 흐름은 비용 절감과 편의성을 앞세우지만, 안전 마진이 사라지는 결과를 동시에 만들고 있습니다.
챗봇 접근성이 올라간 만큼 무분별한 의존도 증가합니다. 무료라는 진입과 자연스러운 문체가 오히려 위험 신호를 희석시키는 역효과를 만들고 있습니다.
4. 보안관 사무소가 직접 내린 경고의 의미
보안관 사무소는 사건 직후 성명에서 “여행 전 항상 미군 산림청 마운트샤스타 레인저 스테이션에 미리 연락해 정확한 최신 정보를 확인하라”고 못박았습니다. 이어 “여행 계획에 있어 AI에만 전적으로 의존해서는 안 된다”는 문구를 공식 메시지에 명시했습니다. 법 집행 기관이 특정 상용 챗봇의 사용을 직접 거명하며 경고를 남긴 것은 매우 이례적인 일입니다.
이 같은 공식 경고가 나오는 배경에는 매년 반복되는 등반 사고 통계가 있습니다. 미국 산악 구조 협회에 따르면 마운트샤스타에서 매년 평균 5~10건의 구조 요청이 접수되고, 상당수는 시간 예산 실패와 보급 부족이 원인입니다. 챗봇 사용이 늘어나면서 통계상 사고 유형이 더 세분화될 가능성이 커졌습니다.
이 사건은 단순한 개인 과실로만 묶기엔 사회적 파급이 있습니다. 기술 기업 입장에서는 자사 모델의 안전 가이드라인을 재검토해야 할 사례이고, 사용자 입장에서는 AI의 역할과 한계를 명확히 구분하는 훈련이 요구됩니다. 보안관 사무소의 경고는 사실상 “기술 회사가 책임지기 어려운 위험을 누가 떠안을 것인가”라는 질문을 공공연히 던진 셈입니다.
공식 기관의 경고는 단순 권고가 아니라 향후 정책 변화의 신호입니다. AI 안전 가이드라인과 야외 활동 규정 모두 새로운 국면을 맞을 가능성이 큽니다.
5. AI 여행 계획을 안전하게 쓰는 법
AI를 도구로 적극 활용하되 결과에 책임을 지는 건 결국 사용자 본인입니다. 야외 활동 준비에서 챗봇을 쓸 때는 세 가지 원칙을 기억하면 사고 위험을 크게 줄일 수 있습니다. 첫째, 식량·물·보온·통신 장비 등 핵심 항목은 반드시 공인 기관의 체크리스트와 교차 확인해야 합니다. 둘째, 등반 시간은 평균치의 1.5배에서 2배까지 여유 있게 잡아야 합니다. 셋째, 야간 활동 가능성이 보이면 즉시 계획을 중단하고 하산하는 판단력이 필요합니다.
구체적인 행동 지침으로 바꿔보면 이렇습니다. 챗봇에게 “마운트샤스타 1박 2일 등반 준비물”을 물은 뒤, 미국 산림청 홈페이지의 공인 체크리스트와 한 줄씩 대조합니다. 다음으로 챗봇이 추천한 식량과 물의 양을 인원수와 예상 소요 시간 기준으로 곱해보고, 경험 많은 등반객의 실제 후기와 비교합니다. 마지막으로 현지 레인저에게 전화나 이메일로 코스 상태를 한 번 더 확인합니다.
여기서 한 가지 중요한 마음가짐이 있습니다. 챗봇은 “내가 이미 아는 정보를 빠르게 정리해주는 비서”이지 “내가 모르는 영역의 전문가”가 아니라는 사실입니다. 등반, 스쿠버다이빙, 겨울 산행처럼 안전 마진이 얇은 활동에서는 이 경계를 흐리면 안 됩니다. 이 사고가 우리에게 남긴 교훈은 결국 “AI가 답을 줘도 내 발로 검증하라”는 오래된 원칙의 재확인입니다.
AI 답변을 1차 초안으로 삼되, 공인 기관의 체크리스트·현장 레인저 상담·경험자 후기라는 세 겹의 필터를 반드시 거쳐야 안전한 여행 계획이 됩니다.
6. AI 산업에 남긴 파장과 향후 시사점
이번 사건은 챗BOT 업계 전체에 중요한 시그널을 보냅니다. 구글이든 오픈AI든 자사 모델이 잘못된 정보로 인한 실제 인명 사고에 연루된 사례는 그동안 학술 논문 수준에 머물렀습니다. 그런데 이번엔 미국 현지 법 집행 기관이 직접 성명을 통해 특정 챗봇을 거명하며 경고한 만큼, 업계의 안전 강화 움직임이 가속될 가능성이 큽니다.
기술적 대응 방안도 구체화될 전망입니다. 야외 활동, 의료, 법률처럼 안전이 걸린에서 모델이 불확실성을 더 명확히 표시하도록 훈련하고, 위험도가 높은 질문에는 “공인 기관 확인” 같은 권고 문구를 자동으로 덧붙이는 방식이 논의될 수 있습니다. 구글 측이 제미나에 고위험 경고 모듈을 우선 적용할지는 업계의 다음 분기 행보가 주목할 지점입니다.
규제 차원에서도 움직임이 예상됩니다. 미국 뿐 아니라 유럽연합과 한국도 AI 신뢰성 법안을 준비 중인데, 이번 사고는 “생명 안전 분야 AI 활용에 대한 강제 고지”라는 항목을 법안에 포함하는 근거로 활용될 가능성이 있습니다. 결과적으로 이 사건은 AI 여행 계획 시장에 명확한 신호를 남길 가능성이 높습니다. 무료 챗봇만이 답이 아니라, 공인 데이터 기반의 유료 안전 플래너 시장이 함께 자라날 여지가 커지고 있습니다.
이번 사건은 AI 안전 가이드라인 강화, 고위험 고지 의무화, 유료 공인 안전 플래너 시장 확대라는 세 갈래 변화를 촉발할 가능성이 높습니다.
