최근 몇 년 동안 우리는 드론을 단순한 존재로 보는 시각에서 벗어나게 되었습니다. 동영상 녹화용 첨단 장난감 이러한 기술들은 안보, 감시, 심지어 무력 충돌에 있어서도 핵심적인 도구로 자리 잡았습니다. 그리고 흔히 그렇듯이, 급속도로 발전하는 기술의 특성상 보안 및 보호 측면은 그 속도에 맞춰 발전하지 못하는 경우가 많습니다.
이러한 맥락에서 캘리포니아 대학교 어바인 캠퍼스의 연구진은 농담처럼 들리지만 결코 농담이 아닌 사실을 밝혀냈습니다. 특정 색상 패턴의 우산만 있으면 특정 자율 드론을 유인하여 무력화할 수 있습니다.전파 방해 장치도, 원격 해킹도, 정교한 무기도 필요 없습니다. 그저 "특이한" 우산 하나와 이 장치들이 세상을 인식하는 방식을 역설계한 것뿐입니다.
자율 드론이 점점 더 큰 우려를 불러일으키는 이유는 무엇일까요?
드론의 등장은 결코 여가 활동에만 국한되지 않습니다. 중국, 러시아, 미국 및 기타 국가 그들은 스스로 판단할 수 있는 인공지능 시스템을 탑재한 무인 항공기 개발을 적극적으로 추진하고 있습니다. 이제 더 이상 인플루언서들을 위한 비행 카메라에 대한 이야기가 아니라, 전술 및 감시 용도로 활용될 수 있는 자율 플랫폼에 대한 이야기입니다.
전쟁에서 아주 명확한 예를 찾아볼 수 있다. 러시아와 우크라이나자살 공격용 드론, 추적 장치, 데이터 전송 개선을 위해 광섬유 케이블과 연결된 시스템 등 온갖 종류의 드론이 배치된 곳입니다. 여기에 더해 러시아에서 진행 중인 것으로 알려진 실험과 같이 공상 과학 소설에 가까운 개발도 이루어지고 있습니다. 비둘기가 바이오 드론으로 변신했습니다이는 일부 행위자들이 전장에서 우위를 점하기 위해 어떤 기술적 수단이라도 기꺼이 동원하려는 의지가 얼마나 강한지를 보여줍니다.
문제는 바로 이 기술이 민간 부문으로 이전될 경우 훨씬 더 불편한 시나리오를 초래할 수 있다는 점입니다. 사람들에 대한 지속적인 감시허가받지 않은 자동 추적, 민감한 위치에서의 데이터 수집, 또는 잘못된 시간에 이러한 장치 중 하나와 마주치는 사람의 일상적인 사생활 침해 등이 그 예입니다.
자율 추적 기능을 갖춘 드론이 민간 보안과 같은 분야에서 대량으로 도입되고 있습니다. 국경 감시군중 통제나 중요 기반 시설 순찰은 드론의 운용 가능성을 넓혀주지만, 동시에 위험 요소 또한 증가시킵니다. 드론이 오작동할 수 있을 뿐만 아니라, 조작되거나 속임을 당하거나, 심지어 조종사를 공격하는 데 사용될 수도 있기 때문입니다.
이러한 상황을 고려할 때, 통신을 암호화하거나 무선 대역을 보호하는 것만으로는 충분하지 않다는 것이 분명해지고 있습니다. 진정한 싸움은 물리적인 땅에서도 벌어진다드론 카메라를 통해 보이는 것을 시각 및 AI 알고리즘이 어떻게 해석하는지, 그리고 알고리즘을 혼란시키기 위해 고안된 시각적 패턴에 어떻게 반응하는지에 대한 것입니다.
UC 어바인 연구: 인공지능에 맞서는 우산
새로운 공격용 드론을 개발하는 대신, 해당 팀은 캘리포니아 대학교 어바인 캠퍼스(UC 어바인) 그는 문제를 다른 관점에서 접근하기로 했다. 즉, AI 기반 자율 추적 시스템으로부터 자신을 물리적으로 보호하는 방법을 찾는 것이었다. 그의 목표는 명확했다. 소위 "물리적 사이버 보안"을 향상시키는 것이었다. 일상적이고 저렴한 물건들특수 하드웨어나 고급 해킹 지식에 의존하지 않고도 가능합니다.
조사 과정에서 전문가들은 많은 상용 드론에 탑재된 추적 알고리즘의 작동 방식을 철저히 분석했습니다. 특히, 그들은 상업적으로 다음과 같이 알려진 기능들에 집중했습니다. 액티브 트랙, 다이내믹 트랙 또는 기타 유사 시스템이 기술은 드론이 컴퓨터 비전을 사용하여 사람이나 물체를 자동으로 추적할 수 있도록 해주며, 조종사가 궤적을 수동으로 조정할 필요가 없습니다.
여러 차례 실험 끝에 그들은 놀랍도록 간단한 약점을 발견했습니다. 특정 드론 모델의 성능 저하였습니다. 신경망과 이미지 모션 분석을 이용한 목표물 추적 특정한 시각적 패턴이 제시되면 혼동될 수 있습니다. 이 방법은 다음과 같이 명명되었습니다. 파리통"파리 덫"이라는 뜻으로, 드론을 유인하여 포획하거나 격추할 수 있는 위치로 끌어들이는 방식을 가리킵니다.
이 사건에서 가장 눈에 띄는 점은 파리덫을 실제로 구현하는 데 우산처럼 흔한 물건을 사용했다는 것입니다. 우산 표면에 적절한 시각적 패턴을 찍어냄으로써 드론 앞에서 그것을 펼치면 추적 AI는 이미지의 일련의 변화를 해석하여 그것을 들고 있는 사람이 가만히 있더라도 목표물이 움직이고 있다고 판단합니다.
이 연구 결과는 컴퓨터 보안 전문 국제 학술대회(NDSS)에서 발표되었으며, 이 접근 방식이 단순한 실험실적 호기심에 그치는 것이 아님이 자세히 설명되었습니다. 실험 결과 물리적 공격은 다양한 조건에서 효과가 있는 것으로 나타났습니다.조명과 날씨의 변화가 있어 통제된 환경 밖의 실제 사용 시나리오와 매우 유사합니다.
파리지옥의 공격 원리를 단계별로 (개념적 수준에서) 설명합니다.
우산이 자율 드론을 곤란한 상황에 빠뜨릴 수 있는 이유를 이해하려면, 우산을 기반으로 하는 목표 추적 시스템을 검토해야 합니다. 인공 시력기본적으로 드론은 주변 환경의 이미지를 지속적으로 촬영하고, 신경망과 동작 분석 알고리즘을 사용하여 각 프레임 내에서 추적해야 할 대상을 찾아냅니다.
이 알고리즘들은 다음에 초점을 맞춥니다. 형태, 색상, 대비 및 움직임의 패턴 드론은 피사체가 현재 이미지에서 이전 이미지 대비 어디에 있는지 추정합니다. 이 정보를 바탕으로 피사체가 접근하는지, 멀어지는지, 옆으로 이동하는지, 장애물 뒤에 숨었는지 등을 계산합니다. 그런 다음 드론은 피사체가 프레임 내에 유지되도록 속도와 궤적을 조정하여 "최적"의 거리를 유지합니다.
플라이트랩 공격은 바로 이러한 논리를 악용합니다. 우산에 디자인된 그래픽 패턴은 드론이 아주 조금만 움직이거나 시야각을 바꿔도 특정 패턴을 생성하도록 설계되어 있습니다. 목표물의 크기와 위치의 명백한 변화 알고리즘은 이를 지속적인 멀어지는 움직임으로 해석합니다. 인공지능은 대상이 뒤로 움직이고 있다고 믿지만, 실제로는 제자리에 서 있는 것입니다.
그렇다면 드론은 어떻게 할까요? 이 가상의 거리를 보정하기 위해, 거리를 점차 줄이세요추적 시스템의 내부 규칙에 따라 구도를 유지하기 위해 피사체에 "더 가까이 다가가려는" 시도. 그 결과, 항공기는 점점 더 공격적인 나선형 접근을 하게 되고... 결국 우산과 그것을 든 사람에게 위험할 정도로 가까워집니다.
드론이 매우 가까이 접근했을 때, 공격자는 매우 유리한 위치에 놓이게 됩니다. 즉, 다음과 같은 상황을 만들 수 있습니다. 그물로 잡다, 치다, 불안정하게 만들다, 또는 충돌시키다 드론이 목표물을 놓치거나 추적을 중단하도록 유도하는 다른 방어 방법과는 달리, 플라이트랩은 드론을 물리적 무력화에 가장 적합한 위치로 유인할 수 있습니다.
영향을 받는 드론 모델 및 문제의 실제 범위
UC 어바인 연구진은 시뮬레이션에만 그치지 않고, 실제 실험을 통해 자신들의 기술을 검증했습니다. 실제 상업용 드론성공적으로 평가된 모델은 다음과 같습니다.
- DJI 미니 4 프로
- DJI 네오
- 호버 에어 X1
이 모든 장치에는 컴퓨터 비전을 기반으로 한 자동 추적 기능이 포함되어 있으며, 이론적으로는 조종사가 카메라에 신경 쓰지 않고도 역동적인 장면을 촬영할 수 있도록 설계되었습니다. 바로 사용자를 자율적으로 따라가는 능력입니다. 파리지옥 같은 패턴이 등장하면 오히려 그에게 불리하게 작용하는 것이 바로 그것입니다.
시험 결과, 드론은 운용이 가능할 정도로 충분히 사람들의 관심을 끌었습니다. 네트워크 장치를 이용한 캡처 또는 그 제어된 영향다시 말해, 단순히 알고리즘을 잠시 혼란스럽게 하는 것이 아니라, 공격자가 기기를 마음대로 휘두를 수 있도록 지속적인 물리적 접근을 강요하는 것이었습니다.
해당 연구를 담당한 연구원들은 사이버 보안 분야의 모범 사례에 따라 연구를 진행했습니다. 그들은 취약점을 책임감 있게 전달했습니다. 모든 세부 정보를 공개하기 전에 관련 제조업체에 먼저 알립니다. 이는 DJI를 비롯한 영향을 받는 기업들이 추적 알고리즘을 검토하고 향후 펌웨어 업데이트 또는 하드웨어 세대에 대응책을 구현할 수 있도록 합니다.
하지만 이러한 특정 모델들을 넘어서, 이번 발견은 다음과 같은 결과를 가져왔습니다. 훨씬 더 광범위한 의미컴퓨터 비전을 사용하여 표적을 추적하기 위해 신경망에 의존하는 모든 무인 항공 시스템(UAS)은 이러한 유형의 적대적 패턴에 저항하도록 특별히 훈련되지 않은 경우 동일한 접근 방식의 변형에 취약할 수 있습니다.
무선 통신, 해킹 또는 간섭이 필요 없는 물리적 공격
FlyTrap의 핵심 특징 중 하나는 모든 기능이 완전히 자동화되어 있다는 점입니다. 물리적 영역이 공격은 드론의 통신을 방해하거나, 데이터 링크에 접근하거나, 기존의 소프트웨어 취약점을 악용할 필요가 없습니다. 드론 카메라가 보는 것을 조작하고, 그 결과 인공지능 알고리즘이 상황을 어떻게 인식하는지를 조작하기 때문에 가능합니다.
실제로 이는 공격자가 명령을 내릴 필요가 없다는 것을 의미합니다. 라디오 신호, 와이파이, GPS 또는 이와 유사한 것또한 드론과의 연결이나 접근 권한, 자격 증명도 필요하지 않습니다. 단순히 드론의 인지적 사각지대를 이용하도록 설계된 물리적 물체를 드론에게 보여주기만 하면 되는데, 이는 일반적인 방어 체계로는 추적하고 차단하기 훨씬 어렵습니다.
이 접근 방식은 다음과 같이 알려진 범주에 속합니다. 물리적 세계에서의 적대적 공격이는 점점 더 중요해지는 연구 분야입니다. 안면 인식 시스템이나 자율주행차를 속일 수 있는 안경, 티셔츠, 스티커가 개발된 것처럼, 여기서는 우산을 이용해 드론의 추적 알고리즘을 교란하는 연구가 진행되고 있습니다.
게다가 그 비용은 전자전이나 무인 항공기 격추에 일반적으로 투입되는 자원과 비교하면 터무니없이 낮습니다. 고가의 장비, 특수 안테나 또는 전문적인 RF 지식은 필요하지 않습니다.드론이 추적 모드일 때 적절한 위치에 자리 잡을 수 있는 약간의 기술과 올바른 디자인의 우산만 있으면 됩니다.
첨단 드론의 가격과 흔한 물건을 이용해 드론을 무력화하는 비용 사이의 이러한 비대칭성은 우리가 드론 문제에 대해 어떻게 생각해야 하는지에 직접적인 영향을 미칩니다. 중요 기반 시설 보안, 경찰 배치 또는 국경이론적으로 악의적인 행위자는 바로 이러한 유형의 기술을 사용하여 감시 드론을 제한 구역 근처로 접근시킨 다음, 원하는 위치에 드론을 무력화시키거나 추락시킬 수 있습니다.
보안, 개인정보 보호 및 대규모 드론 배치에 대한 시사점
무인 항공기의 확산은 다음과 같은 요인에 의해 발생합니다. 인공 지능 이는 공공 안전에 심각한 위협이 됩니다. 도시 순찰, 국경 감시, 대규모 행사 감독 등에 드론 떼를 활용하자는 프로젝트가 점점 늘어나고 있지만, UC 어바인 연구에 따르면 인식 알고리즘을 강화하지 않으면 이러한 드론 활용은 매우 취약한 토대 위에 세워진 셈입니다.
작전적인 측면에서, 플라이트랩 공격은 공격과 방어 모두에 사용될 수 있습니다. 한편으로는, 누군가는 경찰 또는 국경 감시 드론을 무력화시키다이는 특정 지역의 보안 병력 대응 능력을 저해합니다. 반면, 드론 공격을 받거나 상업용 기기를 이용한 스파이 행위의 피해자는 간단하게 개조한 우산을 이용해 스스로를 방어할 수 있습니다.
또한 다음과 같은 측면도 있습니다. 전략적 기반 시설 보호 (발전소, 교통 시설, 데이터 센터 등). 이러한 시설들이 감시 시스템을 보완하기 위해 자율 드론에 의존하는 경우, FlyTrap과 같은 취약점은 공격자가 전자적 상호 작용 없이 물리적 물체만으로 탐지 시스템의 일부를 우회할 수 있는 위험을 초래합니다.
따라서 이 연구는 분명한 메시지를 전달합니다. 드론 보안은 전자 또는 네트워크 계층에만 국한될 수 없습니다.데이터 링크를 보호하고, 통신을 암호화하고, 소프트웨어를 보호하는 것은 필수적이지만, 우산에 인쇄된 색깔 패턴에 인공지능 알고리즘이 속아 넘어간다면 그것만으로는 충분하지 않습니다. 인공지능이 물리적 환경을 해석하는 방식과 의도적인 조작에 대한 견고성까지 포함하는 복원력이 필요합니다.
자율 드론의 사용이 더욱 보편화됨에 따라 도시 환경 및 민감한 작업이러한 유형의 공격은 더 이상 학문적 호기심의 대상이 아니라 제조업체, 규제 기관 및 운영자가 설계 단계부터 고려해야 할 중요한 요소가 될 것입니다. 대규모 배포가 이미 완료된 후 이러한 취약점을 무시하면 막대한 손실을 입을 수 있습니다.
공격의 한계와 가능한 방어선
"우산으로 드론을 격추한다"는 아이디어는 매우 매력적이지만, 아무 색깔의 우산이나 써도 된다고 생각해서는 안 됩니다. 플라이트랩 패턴은 세심하게 디자인되었습니다. 검증된 알고리즘의 특정 약점을 악용하기 위한 것입니다. 모든 드론이나 모든 상황에서 자동으로 작동하는 만능 해결책은 아닙니다.
또한, 이 공격을 위해서는 드론이 특정 기능을 사용해야 합니다. 자율적인 시각 기반 추적조종사가 항공기를 완전히 수동으로 조종하거나, 항공기가 다른 센서(예: LIDAR, 레이더 또는 고급 센서 융합 조합)에 의해 유도되는 경우, 시각적 패턴만으로 AI를 속일 수 있는 여지가 줄어들거나 심지어 사라질 수 있습니다.
또 다른 실질적인 제약은 다음과 같은 필요성입니다. 우산을 드론의 시야에 더 가까이 가져오세요.장치가 고고도에서 비행하거나 목표물로부터 수 킬로미터의 거리를 유지하는 시나리오에서는 목표물에 근접하는 것이 현실적으로 어려울 수 있습니다. 플라이트랩은 특히 저고도 비행, 사람을 근접 추적하거나 좁은 통로가 많은 도심 환경에서 매우 위험합니다.
수비 측면에서는 몇 가지 가능한 조치가 있습니다. 그중 하나는 다음과 같습니다. 비전 모델 재학습 파리덫과 같은 적대적 패턴을 예시로 사용하여, 이를 이상 징후로 인식하고 통제 불능 상태로 접근하는 함정에 빠지지 않도록 학습시키는 방법이 있습니다. 또 다른 방법은 시각 정보를 다른 정보원(깊이 정보, 관성 센서, 3D 지도)과 결합하여 카메라 영상에만 의존하지 않도록 하는 것입니다.
펌웨어에 이를 도입하는 것도 합리적입니다. 근접 거리 제한 및 추가 안전 규칙이러한 조치는 드론이 비정상적이거나 일관성이 없는 시각적 변화를 감지하면 특정 거리 이내로 접근하지 못하도록 합니다. 이는 기만 행위를 완전히 막지는 못하더라도 드론이 사람이 손으로 또는 그물로 쉽게 포획할 수 있는 위치에 도달할 가능성을 줄여줍니다.
마지막으로 규제 차원에서는 드론의 용도별 인증을 담당하는 기관들이 있습니다. 보안, 경찰 또는 기반 시설 감시 평가에는 이러한 유형의 물리적 공격에 대한 방어력 테스트가 포함되어야 합니다. 드론을 사용하여 산악 풍경을 촬영하는 것과 국경 순찰에 사용하는 것은 분명히 다르며, 요구되는 내구성 수준도 확연히 달라야 합니다.
이 모든 것은 흥미로운 시나리오를 만들어냅니다. 인공지능을 통해 드론을 더욱 "똑똑하게" 만들수록, 더욱 중요한 것은 창의적인 공격자처럼 생각하는 것입니다. 현실 세계에서 그들을 속이기 위해 지름길을 찾으려는 사람들. 그리고 바로 그런 점에서, 화려한 우산처럼 겉보기에는 무해해 보이는 물건이 주인공이 될 수 있습니다.
요컨대, 이러한 연구들이 보여주는 것은 다음과 같습니다. 자율 시스템의 보안은 방화벽과 암호화만으로 결정되는 것이 아닙니다.하지만 그들이 환경을 어떻게 인식하는지, 그들의 알고리즘이 어떤 지름길을 택하는지, 그리고 단순한 그래픽 패턴이 어떻게 첨단 무인 항공기를 잘 설계된 덫에 걸린 파리처럼 취약한 존재로 만들 수 있는지 이해하는 것도 중요합니다.