AI가 생성한 닮은꼴이 온라인에 존재하나요?

• 첨단 AI는 매우 사실적인 디지털 분신을 만들어내며 신원 보안과 개인 정보 보호에 대한 중요한 의문을 제기하고 있습니다.
• AI 도플갱어 생성은 특히 진위 여부와 누군가의 초상을 동의 없이 복제할 수 있다는 점에서 심각한 윤리적 우려를 불러일으킵니다.
• 현재의 법적 프레임워크는 AI가 생성한 이미지가 제기하는 고유한 문제를 해결하는 데 어려움을 겪고 있으며, 개인의 권리를 보호하기 위한 새로운 규정이 시급히 마련되어야 할 필요성을 보여줍니다.
• 프리미엄 VPN 다운로드 유명한 ExpressVPN이 진화하는 AI 도플갱어의 세계를 조사하고 사용자 동의 및 강력한 개인 정보 보호의 필요성을 강조합니다.
• AI 도플갱어는 개인 맞춤형 학습과 정신 건강 지원에 혁신을 가져올 수 있지만, 개발 및 사용에는 신중한 윤리적 고려와 강력한 규제 감독을 통해 개인의 프라이버시를 침해하지 않으면서 사회에 도움이 될 수 있도록 해야 합니다.

Lensa AI를 기억하시나요? 2022년 12월, 당시 선풍적인 인기를 끌었던 AI 기반 사진 앱 덕분에 소셜 미디어 피드에는 멋진 배경에서 찍은 친구들의 기묘하면서도 아름다운 사진들로 넘쳐났죠. 

이러한 이미지를 만드는 것은 재미있지만, 만약 내 얼굴이 비슷한 방식으로 허락 없이 사용된다면 어떻게 될까요? 이는 실제로 일어날 수 있는 일입니다.  현재 많은 사람들이 얼굴을 스캔하는 서비스를 이용하고 있고, 초상권과 관련하여 허용되는 부분과 허용되지 않는 부분을 감독하는 규정이 거의 없기 때문입니다.

방대한 인터넷 네트워크에 나도 모르는 사이 디지털 쌍둥이가 이미 존재할지도 모르는 AI 도플갱어의 세계에 오신 것을 환영합니다. 내 얼굴을 동의 없이 복제할 수 있는 AI 도플갱어가 개인의 정체성에 어떤 영향을 미칠까요? 그리고 실제와 인공 생성된 것 사이의 모호한 경계를 어떻게 구분할 수 있을까요?

함께 알아봅시다. 

원하는 섹션으로 이동하기
AI 얼굴 생성의 진화 과정
AI 도플갱어 현상

법적 및 윤리적 의미

AI 도플갱어 문제 해결

디지털 신원을 보호하는 방법 

AI 도플갱어가 있으면 과연 좋을까요?

AI 얼굴 생성의 진화 과정 

극사실적인 얼굴을 생성하는 AI 기술의 시작은 2010년대 중반 적대적 생성 신경망(GAN)의 도입과 함께 머신러닝이 크게 발전한 시기로 거슬러 올라갑니다. 디지털 아트 제작을 위해 개발된 GAN은 두 개의 신경망이 서로 경쟁하며 한 쪽은 새로운 이미지를 생성하고 다른 쪽은 사실성을 평가하는 방식입니다. 이 기술은 빠르게 예술 분야를 넘어 컴퓨터 비전 시스템을 향상시키고 AI 학습을 위한 사실적인 시뮬레이션을 제공하는 데까지 확장되었습니다.

디지털 아트 AI로 생성한 얼굴의 예, Midjourney

소프트웨어 개발자 필립 왕(Phillip Wang)이 ThisPersonDoesNotExist 웹사이트를 출시하면서 GAN의 활용은 새로운 차원의 대중 교류를 달성했습니다. 이 사이트는 새로고침할 때마다 실제 같지만 완전히 가상의 새로운 얼굴이 생성되며, GAN 기술의 힘과 창의성을 보여줍니다. 왕은 AI 연구원 이안 굿펠로우(Ian Goodfellow)와의 대화에서 영감을 받아 엔비디아 AI 랩에서 개발한 모델을 사용하여 7만 개 이상의 고해상도 이미지로 알고리즘을 훈련시켰고, 그 결과 원본 여부 및 진위에 대한 우리의 관념에 맞서는 얼굴이 만들어졌습니다.

하이퍼리얼리즘의 실제 적용  

연구에 따르면 실제 사람 얼굴보다 더 실제처럼 보이는 오늘날의 AI 생성 얼굴은 놀라움을 넘어 광고 및 마케팅 비주얼과 같은 제작물에 활용되고 있습니다. 실제처럼 보일 뿐만 아니라 비용이 거의 없이 빠르게 제작할 수 있습니다. 이러한 디지털 존재는 인간 모델을 대체할 수 있는 효율적인 대안을 제공합니다.

광고 분야에서 AI의 효율성을 보여주는 대표적인 사례는 인스타그램에서 311,000명 이상의 팔로워를 보유한 AI 생성 모델인 아이타나 로페즈입니다. 바르셀로나의 디자인 에이전시인 더 클루리스(The Clueless)가 만든 로페즈는 팬들과 소통하고 실제 제품을 홍보하는 인플루언서로 활동하고 있습니다. 이 에이전시는 AI 캐릭터가 신뢰성과 효율성을 제공하고 인간 모델을 고용하는 데 드는 비용과 물류 문제를 줄여주기 때문에 로페즈를 만들었다고 말했습니다.

아이타나 로페즈는 패션 모델이자 게이머, 피트니스 애호가로 인스타그램에서 311,000명 이상의 팔로워를 보유하고 있습니다. 그녀는 실제 사람이 아닙며, 바르셀로나의 디자인 에이전시인 The Clueless가 만든 AI 구조물입니다. 출처: Instagram 

AI 도플갱어 현상

AI로 생성된 얼굴의 진화에서 볼 수 있듯이, AI의 능력은 첨단 알고리즘을 활용하여 초현실적인 디지털 피규어를 제작하는 등 놀랍도록 새로운 차원에 도달했습니다. 전통적인 디지털 아트에서 실제 같은 인터랙티브 모델 제작으로의 전환은 AI 기술의 비약적인 발전을 잘 보여줍니다. 하지만 더 깊이 들여다보면 공상과 현실이 결합된 AI 도플갱어와 같은 현상을 마주하게 됩니다.

도플갱어라는 개념은 사람의 외모를 섬뜩할 정도로 닮았지만 친족이 아닌 사람을 뜻하는 독일어 ‘더블 워커(Double Walker)’에서 유래한 것으로, 유령 분신은 전통적으로 사람의 불행이나 죽음을 예고하는 불길한 징조로 여겨져 왔습니다. 오늘날 이 고대 개념은 기술적인 변화를 거쳤습니다. AI를 사용하여 실제 사람의 모습을 디지털로 구현하고 별도의 온라인 존재를 만드는 것이 가능해졌습니다.

예를 들어, 엔터테인먼트 업계에서는 AI를 사용하여 고인이 된 배우의 디지털 버전을 영화에 등장시켜 향수를 불러일으키는 캐릭터를 스크린으로 되살리고 있습니다. 주목할 만한 예로는 스타워즈: 로그 원에서 AI와 CGI를 사용해 1994년에 세상을 떠난 배우 피터 쿠싱을 그랜드 모프 타킨의 모습으로 재현한 것을 들 수 있습니다. 

AI에게 먹이로 공급되는 우리의 디지털 자아 

Lensa AI와 같은 앱은 평범한 셀카를 공상 세계를 연상시키는 스타일리시한 초상화로 바꿔주는 기술을 대중화했습니다. 이러한 앱은 예술적 스타일과 사람의 특징에 대한 방대한 데이터 세트를 학습한 고급 AI 알고리즘을 활용하여 우리 얼굴을 다양하고 창의적인 형태로 복제하고 재구성할 수 있습니다. 

이러한 초기의 매력적인 기능은 이후 보다 진지하게 활용되고 있습니다. 이제 AI는 완벽한 LinkedIn 헤드샷을 만들고, 이력서를 맞춤화하며, 브랜딩을 위한 맞춤형 동영상 콘텐츠까지 제작하는 등 전문적인 이미지를 큐레이팅하는 데 도움을 줍니다. 디지털 아이덴티티에 대한 재미있는 실험으로 시작된 기술이 이제는 개인적이고 전문적인 자기 표현을 위한 도구로 발전했습니다.

고객 서비스 분야에서도 AI 도플갱어가 현실화되고 있습니다. 기업들은 인간 고객 서비스 담당자의 표정과 목소리로 고객과 소통할 수 있는 AI 기반 디지털 에이전트를 도입하여 개인화되고 매력적인 고객 경험을 제공하고 있습니다.

동일한 기술이 딥페이크 제작에도 활용되고 있습니다. AI로 생성된 매우 사실적이고 그럴듯한 이미지, 비디오 및 음성 클립은 조작된 시나리오에서 사람을 거짓으로 묘사할 수 있습니다.

AI는 우리가 만든 디지털 부스러기를 통해 끊임없이 학습하고 있으며, 우리는 업로드하는 모든 셀카, 공유하는 모든 음성 클립, 게시하는 모든 동영상을 통해 AI에 적극적으로 기여하고 있습니다. 사진을 소셜 미디어에 게시하거나 AI 시스템에 직접 업로드하면 이러한 이미지가 저장되고, 스냅샷에서 AI 학습을 위한 귀중한 데이터로 변환되는 과정을 거칩니다. 이 과정은 다음과 같습니다.

1. 디지털 업로드는 AI 학습을 위한 원료가 됩니다.
2. 그다음 이러한 이미지는 태그 지정, 분류, 때로는 익명화를 거쳐 다음 단계로 넘어갈 수 있도록 준비됩니다.
3. 태그가 지정된 이미지는 사람의 특징을 인식하고 복제하는 방법을 점진적으로 학습하는 GAN과 같은 알고리즘에 데이터로 공급됩니다.
4. AI는 이 학습을 통해 실제 사람을 기반으로 하여 기이할 정도로 생생하거나 친숙하거나 스타일이 변형된 새롭고 독특한 얼굴을 만들어냅니다.

즉, AI는 나와 약간의 차이만 있는 AI 버전의 나, 즉 AI 도플갱어를 만들어낼 수 있으며 우리는 그것에 대해 전혀 알지 못할 수도 있습니다. 이는 우리의 디지털 초상을 통제하고 사용하는 주체와 관련하여 심각한 윤리적 문제를 제기합니다. AI가 우리의 명시적인 동의 없이 광고나 정치 캠페인을 위해 우리의 얼굴을 복제할 수 있게 되면 개인의 자율성과 기술적 착취 사이의 경계가 모호해집니다.

이는 AI가 생성한 이미지를 누가 진정으로 통제할 수 있는가, 디지털 신원에 대한 권리는 누가 소유하는가 라는 시급한 질문을 제기합니다. 

AI 도플갱어의 법적, 윤리적 의미

AI 도플갱어의 등장으로 특히 소유권 및 통제와 관련된 수많은 법적, 윤리적 문제가 제기되고 있습니다. 실제 개인을 닮은 디지털 개체는 원본 창작과 직접 복제 사이의 모호한 영역을 넘나들며 현재의 저작권 및 신원 권리 프레임워크에 존재하는 상당한 공백을 드러냅니다.

법적 불확실성 

현재의 법률 시스템은 AI가 제기하는 새로운 문제를 처리할 준비가 되어 있지 않습니다. 예를 들어, 미국에서는 오래된 저작권법에 의존하고 있기 때문에 AI가 생성한 콘텐츠의 중요한 측면이 대부분 법적으로 검증되지 않은 채로 남아 있습니다. 이 시나리오는 AI 예술이 등장하면서 직면했던 초기의 법적 문제를 닮아 있으며, AI 시대에 저작권을 명확히 하기 위한 새로운 법적 선례가 필요하다는 점을 시사합니다.

스칼렛 요한슨이 자신의 초상을 광고에 무단으로 사용했다며 ‘Lisa AI: 90s Yearbook & Avatar’라는 이름의 AI 앱을 상대로 소송을 제기한 사례를 예로 들어봅시다. 이 앱은 요한슨이 제품을 홍보하는 것처럼 보이게 하는 광고를 제작하여 혼란을 야기하고 그녀의 평판에 손상을 입혔습니다. 요한슨이 취한 법적 조치로 인해 온라인 플랫폼에서 해당 광고가 삭제되었으며, 이는 유명인들이 자신의 디지털 초상을 무단으로 사용하면서 직면하는 법적 분쟁을 조명하는 사례입니다.

한편, EU의 AI 법은 규제의 명확성을 향해 한 걸음 나아갔지만 AI가 생성한 콘텐츠의 소유권에 대한 구체적인 조항은 여전히 부족하며, 이는 새로운 과제에 단편적으로 접근하고 있음을 나타냅니다.

저작권의 복잡성

AI가 생성한 콘텐츠의 과제는 독창성과 저작성을 정확히 파악하는 것입니다. AI가 기존 데이터를 재조합하여 새로운 것을 만들어내는 경우가 많다는 사실을 고려할 때, 그 결과물이 독창적인 것인지 아니면 학습 데이터의 파생물에 불과한 것인지에 대한 의문이 남게 됩니다. 미국의 ‘공정 사용’ 원칙은 저작권이 있는 자료를 사용해 변형 저작물을 만드는 데 어느 정도 융통성을 제공하지만, 어디까지 ‘변형’으로 간주할지는 법적으로 뜨거운 논쟁의 대상이 되고 있습니다.

이러한 문제를 인식한 일부 기업에서는 오리지널 크리에이터가 AI 모델 학습에 자신의 저작물을 사용한 것에 대해 보상을 받을 수 있도록 파트너십을 구축하고 있지만, 이는 극소수의 조직에 불과합니다. 

윤리적 고려 사항 

법적 문제를 넘어 윤리적 문제도 심각합니다. 인공지능이 사람의 동의 없이 거의 완벽하게 사람을 모방한 닮은꼴을 만들 수 있다면, 이는 개인의 정체성 개념에 도전하는 것입니다. 또한 이러한 유형의 기술의 윤리적 사용에 대한 논쟁을 촉발할 뿐만 아니라 프라이버시, 보안, 자유에 대한 실질적인 위험을 초래할 수 있습니다. 

예를 들어, AI가 생성한 동영상에는 개인이 논란이 되는 행사에 참석하거나 불법적인 활동에 가담하는 등 실제로는 하지 않은 행동을 하는 모습을 보여줄 수 있습니다. 이러한 종류의 오용은 당사자가 묘사된 행동에 가담하지 않았음에도 불구하고 공개적으로 망신을 당하거나 낙인이 찍히는 등 심각한 개인적 불이익을 초래할 수 있습니다.

또한, 심각한 경우 디지털 도플갱어가 보안 시설이나 디지털 계정에 접근하는 데 사용되어 신원 도용이나 민감한 정보에 대한 무단 접근으로 이어질 수 있습니다. 국가 안보나 기업 스파이 활동과 관련된 상황에서는 특히 그 피해가 심각합니다.

오용의 위험성  

디지털 도플갱어의 등장으로 오용의 위험도 커지고 있습니다. 다른 사람의 디지털 초상을 동의 없이 광고나 정치 캠페인에 무단으로 사용하는 것은 개인의 권리를 침해하고 윤리적 경계를 모호하게 만듭니다. 디지털 도플갱어는 사칭과 사기의 위험을 초래할 뿐만 아니라 개인적, 직업적 평판에도 영향을 미치므로 이러한 남용으로부터 개인을 보호하기 위한 엄격한 법적 보호가 필요합니다.

예를 들어, 정치인의 발언이나 행동을 조작하기 위해 딥페이크가 사용될 가능성에 대한 우려가 만연해 있습니다. 특히 기술의 접근성과 설득력이 높아짐에 따라 이러한 동영상이 유권자를 오도하거나 반대 정당의 평판을 훼손하는 데 사용될 수 있다는 우려입니다. 

AI 도플갱어의 문제 해결

AI가 실제 인간과 거의 구별할 수 없는 디지털 분신을 만드는 데 점점 더 능숙해지면서 실행 가능한 해결책의 도입이 더욱 시급해지고 있습니다. 우리가 직면한 가장 큰 질문은 우리의 법률 시스템과 개인 관행이 이러한 기술적 도약에 발맞춰 충분히 빠르게 진화할 수 있는가 하는 점입니다.

법적 프레임워크 개선하기

AI가 생성한 초상의 등장으로 기존 법적 프레임워크에 대한 재평가가 시급해졌습니다. 여기에는 디지털 페르소나를 별개의 실체로 인정하고 분류하는 것이 포함되며, 새로운 권리와 보호가 필요할 수 있습니다. 예를 들어, 디지털 분신 생성을 ‘디지털 출생’으로 인정하는 법안이 제안될 수 있으며, 이를 통해 개인에게 자신과 매우 유사한 AI 생성 이미지에 대한 법적 권리를 부여할 수 있습니다.

• 입법 조치: AI를 사용한 초상 생성을 규제하기 위해서는 즉각적이고 적극적인 입법 조치가 필요합니다. 우리 법은 디지털 이미지의 무단 사용에 대한 명확한 기준을 제시하여 개인이 자신의 디지털 신원을 통제할 수 있도록 보장해야 합니다. 한 가지 접근 방식으로는 개인이 AI가 생성한 자신의 이미지를 소유하고 관리할 수 있는 등록 시스템을 구축하는 방법이 있습니다.

• 동의 및 소유권: 동의와 소유권에 대한 명확한 가이드라인을 수립하는 것은 필수적입니다. 개인은 자신의 초상이 사용되거나 복제되기 전에 반드시 해당 사실을 고지받고 동의할 권리를 가져야 합니다. 이를 위해서는 개인의 데이터가 AI 모델 학습에 어떻게 사용되는지 명확히 밝히고 투명성과 통제권을 보장해야 합니다.

글로벌 협력 강화하기

디지털 기술과 AI의 글로벌한 특성상 이러한 문제를 해결하는 일도 어느 한 국가에만 국한될 수 없습니다. 국경을 넘어 디지털 신원을 보호하는 포괄적인 규정을 개발하기 위해서는 국제적인 협력이 필수적입니다.

• 국제 표준: 디지털 초상 생성 및 사용을 규제하는 통일된 국제 표준 및 규정이 필요합니다. 이러한 표준은 디지털 권리와 개인 정보 보호에 대한 접근 방식을 통합하여 전 세계 개인을 보호하는 것을 목표로 해야 합니다.
• 국가 간 법적 프레임워크: 또한 디지털 초상의 무단 사용을 국제적으로 해결하고 처벌하는 국경을 초월한 법적 프레임워크를 구축하는 데에도 노력을 기울여야 합니다. 이는 기업이 여러 관할권 간의 규제 격차를 악용하는 것을 방지하는 데 기여할 것입니다.

디지털 신원을 보호하는 방법

사회가 AI와 관련된 더 나은 법적 개혁을 추진하는 동안, 온라인 신원을 보호하기 위해 미리 취할 수 있는 예방 조치가 있습니다.

• 데이터 신중하게 사용하기: 데이터 신중하게 사용하기: 온라인에서 개인 정보와 사진을 공유하기 전에 두 번 생각하세요. 각 데이터는 디지털 초상을 생성하는 등 AI 시스템을 학습시키는 데 사용될 수 있습니다. 공유는 필수적인 경우로 제한하고 가능한 한 안전하고 개인정보를 존중하는 플랫폼을 사용하세요.
• 앱 권한 검토 및 제한하기: 모바일 앱과 온라인 서비스에 부여한 권한을 정기적으로 확인하세요. 꼭 필요한 경우가 아니면 카메라, 마이크, 사진 보관함에 대한 접근 권한을 제한하고, 앱 작동에 필요한 것보다 더 많은 정보를 요청하는 앱은 항상 주의하세요.
• 데이터 마스킹 도구 사용하기: AI가 디지털 모델을 만드는 데 사진을 제대로 사용하지 못하도록 사진을 약간 가리거나 변경하는 서비스를 사용하는 것을 고려해 보세요. 이러한 도구는 사람의 눈에는 보이지 않지만 AI 알고리즘에는 방해가 되는 방식으로 이미지 세부 정보를 미묘하게 변경할 수 있습니다.
• 디지털 정리 작업 실행하기: 주기적으로 자신의 온라인 활동을 검토하세요. 소셜 미디어에서 오래된 계정과 불필요한 사진을 삭제하고, 더 이상 사용하지 않지만 악용될 수 있는 디지털 발자국을 정리하는 것이 좋습니다.
• 더 나은 정책 지지하기:  디지털 개인 정보 보호 정책에 대한 최신 정보를 파악하고 개인 데이터를 보호하는 법안을 지지하세요. AI가 생성한 콘텐츠에 대한 더 엄격한 규제와 개인 데이터 사용 방식의 투명성 강화를 촉구하는 캠페인에 참여하고 청원서에 서명하세요.
• 자신을 비롯한 커뮤니티 교육하기: 아는 것이 힘입니다. 무료 리소스를 활용하여 AI 기술과 개인 정보 보호에 미치는 영향에 대해 자세히 알아보세요. 커뮤니티에 이러한 지식을 공유하여 인식을 높이고 다른 사람들이 AI 오용에 대한 위험성과 방어 방안을 이해할 수 있도록 도와주세요.
• 오용 여부 모니터링하기: 내 이름에 대한 Google 알림을 설정하고 주기적으로 온라인에서 내 이미지를 검색하여 내가 승인하지 않은 곳에서 내 이미지가 사용되는지 확인하세요. 다양한 도구와 플랫폼을 통해 내 초상이 어디에서 어떻게 사용되고 있는지 모니터링할 수 있습니다.

AI 도플갱어가 있으면 과연 좋을까요?

앞서 살펴본 바와 같이, AI로 생성된 도플갱어는 개인 정보 보호와 개인 데이터 통제에 대한 심각한 우려를 불러일으킵니다. AI가 우리의 모습을 정밀하게 복제할 수 있는 능력은 신중한 고려와 엄격한 감독이 필요한 윤리적 문제를 제기합니다. 하지만 이러한 문제가 존재하는 가운데 이 기술을 긍정적으로 활용할 수도 있을까요? 그럴 가능성이 있습니다.

예를 들어, AI 도플갱어는 우리가 정보를 학습하고 상호 작용하는 방식을 혁신적으로 변화시킬 수 있습니다. 개별 학생의 학습 스타일과 속도에 맞게 맞춤화된 개인 학습 도우미는 모든 사람이 더 쉽고 효과적으로 교육에 접근할 수 있게 해줄 수 있습니다. 이러한 AI는 다양한 교수법을 시뮬레이션하여 각 학습자에게 가장 적합한 교수법을 찾음으로써 잠재적으로 교육 효과를 개선할 수 있습니다.

정신 건강 측면에서는 AI 도플갱어가 언젠가 치료 보조 도구로 사용될 수 있습니다.심리적 지원을 제공하거나, 대화를 연습하거나, 개인이 스트레스가 적은 환경에서 사회적 기술을 개발할 수 있도록 프로그램될 수 있습니다.고립감 또는 특정 정신 건강 문제를 겪고 있는 사람들에게는 이해하고 공감하고 반응형 AI가 중요한 지원 도구가 될 수 있습니다.

또한, AI 도플갱어는 전문적인 환경에서 일상 업무와 상호작용을 처리하여 인간 직원이 보다 복잡하고 창의적인 업무에 집중할 수 있도록 도울 수 있습니다. 이를 통해 업무 효율성이 향상되고 직원은 인간의 통찰력과 창의성이 필요한 업무에 더욱 몰두할 수 있습니다.

그러나 이러한 혜택이 윤리적 기준을 훼손하지 않고 온전히 실현되려면 먼저 강력한 규정과 명확한 가이드라인이 제대로 마련되어 있어야 합니다. 이러한 프레임워크는 개인의 데이터를 보호하고 오용을 방지하기 위한 엄격한 조치와 함께 AI 도플갱어의 개발 및 사용 방식에 대한 투명성을 보장해야 합니다. 이러한 조건이 갖춰져야만 AI 도플갱어의 긍정적인 잠재력을 안전하고 효과적으로 활용할 수 있습니다.

AI 도플갱어에 대해 어떻게 생각하시나요? 이러한 기술의 이점이 윤리적, 법적 우려보다 더 클까요? 아래 댓글로 알려주세요.