Page 47 - 수산가족 2024 AUTUMN

47
자료제공. themilk.com

생성형 AI발 쓰나미 속 ‘딥페이크’ 공포 확산
2022년 후반, 생성형 인공지능(AI) 열풍이 일기 시작한 후 약 2년이 흘렀습니다. 챗GPT로
시작했던 오픈AI는 이제 GPT-4에서 업그레이드된 새로운 플래그십 LLM(대형 언어모델) ‘오
리온(코드명)’과 대화형 AI인 ‘스트로베리’ 출시를 준비하는 등 계속해서 개발되고 있습니다.

그러나 생성형 AI 업계에 예기치 못한 부작용이 나타났습니다. 사람들이 AI 모델과 관계를
형성하면서 실제 인간관계에 악영향을 미친다는 것입니다. 챗봇에 말을 걸고, 부탁하고,
감사를 전하는 동시에 AI 챗봇을 친구, 연인, 멘토, 치료사, 교사, 사망한 고인 등으로 설정
하기 시작했습니다. 특히 생성형 AI 합성 이미지를 활용한 ‘딥페이크’ 범죄는 요즘 가장 무
서운 범죄로 떠오르고 있습니다. 텔레그램을 비롯한 소셜미디어에는 실존 인물의 얼굴에
음란물을 합성해 편집한 허위 영상물을 생성하고 유포하는 것으로 의심되는 단체 대화방
이 대규모로 발견되기도 했습니다. 피해자는 대학생, 중고생, 교사, 여군 등으로 나이와 직
업을 가리지 않고 범죄의 표적이 되었습니다. 미국의 한 사이버 보안업체는 전 세계 딥페
이크 성 착취물의 피해자 절반 이상이 한국인이라는 연구 결과를 내놨습니다. 올해만 딥페
이크로 인한 국내 피해자가 1000명을 넘을 것이란 추정까지 나오는 상황입니다.

정서적 의존을 넘어 ‘AI 중독’으로…
이러한 공포 속에서도 딥페이크는 시작에 불과하다는 의견이 있습니다. 미국에서는 이를 능가할 ‘생성AI 중독’에 대한
우려가 나오고 있습니다. MIT(매사추세츠공과대학) 미디어랩과 하버드대학 로스쿨 공동 JD-PhD 후보인 로버트 마하
리 그리고 MIT 미디어랩의 팻 파타라누타폰 연구원은 극도로 개인의 선호에 맞춰진 AI를 사용한 나머지 판단력이 흐려
지는 ‘중독적 지능(addictive intelligence)’의 출현에 대비해야 한다고 경고했습니다. 생성AI 챗봇은 소셜미디어의 알고
리즘보다 훨씬 강력하기 때문에, 상호작용하는 사람의 선호도에 맞게 최적화된 콘텐츠를 무한으로 생성할 수 있습니다.
MIT 미디어랩 연구는 이를 ‘아첨(sycophancy)하는 AI’로 규정하고 인간의 심리와 사회활동에 미칠 영향을 우려했습니
다. 아첨하는 AI 동반자와 상호작용을 하면 거짓과 사실을 구분하는 판단력이 흐려지고, 나아가 실제 인간과 교류하려
는 의지가 줄어들면서 ‘디지털 애착 장애(digital attachment disorder)’로 이어질 수 있다는 것입니다. 실제 2022년 11월
MIT 미디어랩과 캘리포니아대학교 산타바바라 캠퍼스 등 연구진은 “학생들이 좋아하거나 존경
하는 사람과 닮은 생성형 AI 강사에게는 가짜인 줄 알면서도 실력이 더 나은 강사로 평가”했다고
밝히기도 했습니다. 미라 무라티 오픈AI 최고기술책임자(CTO) 역시 “AI가 발전하면 현재 존재하
는 시스템보다 훨씬 중독성이 강해질 수 있다”고 경고했습니다.

생성형 AI는 인간의 삶을 정말 이롭게 만들까요? 기대와 우려의 관점이 너무도 극명하게 갈리는
상황 속에서, 확실한 것은 AI가 다양한 방면에서 인간의 삶을 확장시킨다는 것입니다. 그러나 앞
서 말했듯 AI로 인한 문제점이 큰 것 또한 사실입니다. 앞으로 AI 기술이 긍정적인 방향으로 발
전하기 위해서는 적절한 규제 방안과 함께 사용자의 인식 교육에 더욱 힘써야 할 것입니다.