AI가 만든 가짜 반품 사진, AI는 가려낼까
뉴욕 패션위크에 여성 주도 패션테크 기업 11곳 집결
상품 기획부터 반품 사기 탐지까지, 소매업 혁신 경쟁 주목
2026년 체험 쇼케이스 [사진=NYFTLab 공식 행사 페이지]
뉴욕 패션 테크 랩(New York Fashion Tech Lab·NYFTLab)은 지난 9월 10일 뉴욕 패션위크 기간에 여성 주도 B2B 기술 기업 11곳으로 구성된 ‘2026 콜렉티브(The 2026 Collective)’를 선보였다. 데이터 관리부터 상품 검색, 고객 피드백, 사용자 인증, 반품 사기 탐지까지 소매업 전반을 아우르는 기술이 등장했다.
그중에서도 눈길을 끈 것은 생성형 AI로 만든 가짜 상품 사진이 반품 사기에 악용될 가능성이었다. AI가 패션산업의 효율성을 높이는 도구인 동시에 새로운 위험을 만드는 수단이 될 수 있다는 사실을 보여주기 때문이다.
# 패션위크의 주인공 된 ‘보이지 않는 기술’
NYFTLab은 여성 주도 B2B 소매 기술 기업을 패션·유통 브랜드 및 투자자와 연결하는 비영리 프로그램이다. 2014년 설립 이후 20여 개국에서 90개가 넘는 기업이 참여했으며, 동문 기업들의 누적 투자 유치액은 5억 5천만 달러를 넘어섰다.
올해는 매년 하나의 코호트를 선발하던 기존 방식에서 벗어나 두 차례의 심사를 통해 참여 기업을 확대했다. 이렇게 선정된 11개 기업은 NYFTLab과 협력사들이 마련한 5주간의 프로그램을 거쳐 뉴욕 NeueHouse 펜트하우스에서 기술을 공개했다.
2026년 체험 쇼케이스 [사진=NYFTLab 공식 행사 페이지]
참여 기업들의 기술은 상품 기획부터 구매 이후까지 소매업 전반을 아울렀다. 아트로너스(Atronous)와 메이브(Maeve)는 상품 데이터와 수익성을 분석하고, 스퍼(Spur)와 베리스타일(Veristyle)은 온라인 매장 점검과 상품 검색을 지원한다.
AIUTA와 시미 인덱스(SeeMe Index)는 각각 개인화된 시각 경험과 다양한 소비자 집단의 분석에 주목했다. 호크스(Hawcx)는 소비자를 대신해 상품을 검색하고 거래를 수행할 AI 에이전트의 인증 기술을 개발한다. 트루레이팅(TruRating), 사이렌(Siren), 레디엠(Rediem)은 결제 순간과 구매 이후, 브랜드 커뮤니티에서 나타나는 고객 반응을 수집하고 분석한다.
뉴욕 패션위크에 이들 기업이 등장한 것은 패션테크의 중심이 눈에 보이는 디지털 의류나 가상 피팅을 넘어섰음을 보여준다. 상품을 기획하고 판매한 뒤 반품과 고객 관계까지 관리하는 운영 기술이 패션산업의 핵심 경쟁력으로 떠오른 것이다.
# ‘가짜’ 파손 사진으로 환불 요구...흔들리는 사진의 신뢰
[사진=Wyllo 홈페이지]
참가 기업 중에서도 반품과 환불 과정의 사기를 탐지하는 윌로(Wyllo)가 눈길을 끌었다.
온라인 쇼핑에서 고객이 상품 파손이나 배송 오류를 주장하면 판매자는 사진을 요구하는 경우가 많다. 사진은 고객의 주장이 사실인지 비교적 빠르게 확인할 수 있는 증거로 활용됐다.
하지만 생성형 AI가 실제와 구분하기 어려운 이미지를 만들어 내면서 이러한 확인 방식에 허점이 생겼다. 정상적인 상품을 찢어지거나 오염된 것처럼 보이게 하고, 멀쩡한 배송 상자를 심하게 훼손된 것처럼 표현할 수도 있다. 존재하지 않는 피해 장면을 만들어 환불이나 보상을 요구하는 일이 기술적으로 가능할 수 있다.
판매자 입장에서는 이미지 한 장만으로 실제 파손과 AI가 만든 장면을 구별하기 어렵다. 모든 환불 요청에 복잡한 확인 절차를 적용하면 정상적인 고객의 불편이 커진다. 반대로 고객 편의를 위해 즉시 환불하면 허위 요청에 반복적으로 노출될 수 있다.
2026년 체험 쇼케이스 [사진=NYFTLab 공식 행사 페이지]
윌로는 사진 자체의 진위를 판별하는 데만 의존하지 않는다. 고객의 신원과 구매 행동, 반품 및 보상 요구 이력, 여러 계정과 주문 사이의 연관성을 함께 분석해 요청의 위험도를 판단한다. 예컨대 서로 연관된 계정에서 유사한 환불 요구가 반복되는 등 이상 징후가 나타나면 이를 위험 신호로 분류할 수 있다. 주문과 결제 단계에서는 정상적으로 보였던 고객이라도 구매 후 행동에서 반복적인 이상 징후가 발견되면 별도의 검토 대상으로 분류한다.
분석 결과는 고객지원 담당자가 환불 여부와 확인 절차를 결정하는 데 활용된다. 위험도가 낮은 고객에게는 신속한 환불을 제공하고 의심스러운 요청에는 상품 회수나 추가 자료 제출과 같은 절차를 적용하는 방식이다.
이 방식은 반품 기간이나 조건을 일률적으로 강화하는 대신 고객의 행동과 위험도에 따라 대응 수준을 달리한다. 소매업체는 정상적인 고객의 편의를 유지하면서 반복적인 정책 악용을 선별적으로 차단할 수 있다.
# AI 시대, 기술보다 중요한 것은 ‘신뢰’
2026년 체험 쇼케이스 [사진=NYFTLab 공식 행사 페이지]
윌로의 사례는 AI가 소매업에 가져온 양면성을 보여준다. 생성형 AI는 상품 이미지를 다양하게 만들고 고객별 쇼핑 경험을 제공할 수 있지만 동시에 허위 증거를 만들고 기존의 환불 절차를 악용하는 데 사용될 수도 있다. AI가 만든 문제를 다른 AI가 다시 탐지하는 상황이 시작된 것이다.
다만 고객의 행동을 분석해 위험도를 판단하는 기술에도 해결해야 할 과제가 있다. 정상적인 고객을 사기 이용자로 잘못 분류할 수 있으며 분석 과정에서 어떤 개인정보가 활용되는지도 면밀히 살펴야 한다. 과거 행동을 바탕으로 고객마다 다른 반품 조건을 적용하려면 판단 기준의 공정성과 투명성 역시 확보돼야 한다.
비슷한 문제는 다른 패션테크 분야에서도 나타난다. 개인화된 상품 이미지는 소비자의 쇼핑을 편리하게 만들 수 있지만 화면 속 색상이나 재질, 착용 모습이 실제 상품과 다르면 기대를 왜곡할 수 있다.
결국 2026 콜렉티브가 보여준 소매업의 미래는 AI를 얼마나 많이 활용하느냐의 경쟁이 아니다. AI가 생성한 이미지와 판단을 소비자와 기업이 얼마나 신뢰할 수 있는지, 오류와 악용 가능성을 어떻게 관리할 것인지가 더 중요한 경쟁 요소가 되고 있다.
신아랑 에디터 thin567@dito.fashion
AI가 만든 가짜 반품 사진, AI는 가려낼까
2026년 체험 쇼케이스 [사진=NYFTLab 공식 행사 페이지]
뉴욕 패션 테크 랩(New York Fashion Tech Lab·NYFTLab)은 지난 9월 10일 뉴욕 패션위크 기간에 여성 주도 B2B 기술 기업 11곳으로 구성된 ‘2026 콜렉티브(The 2026 Collective)’를 선보였다. 데이터 관리부터 상품 검색, 고객 피드백, 사용자 인증, 반품 사기 탐지까지 소매업 전반을 아우르는 기술이 등장했다.
그중에서도 눈길을 끈 것은 생성형 AI로 만든 가짜 상품 사진이 반품 사기에 악용될 가능성이었다. AI가 패션산업의 효율성을 높이는 도구인 동시에 새로운 위험을 만드는 수단이 될 수 있다는 사실을 보여주기 때문이다.
# 패션위크의 주인공 된 ‘보이지 않는 기술’
NYFTLab은 여성 주도 B2B 소매 기술 기업을 패션·유통 브랜드 및 투자자와 연결하는 비영리 프로그램이다. 2014년 설립 이후 20여 개국에서 90개가 넘는 기업이 참여했으며, 동문 기업들의 누적 투자 유치액은 5억 5천만 달러를 넘어섰다.
올해는 매년 하나의 코호트를 선발하던 기존 방식에서 벗어나 두 차례의 심사를 통해 참여 기업을 확대했다. 이렇게 선정된 11개 기업은 NYFTLab과 협력사들이 마련한 5주간의 프로그램을 거쳐 뉴욕 NeueHouse 펜트하우스에서 기술을 공개했다.
2026년 체험 쇼케이스 [사진=NYFTLab 공식 행사 페이지]
참여 기업들의 기술은 상품 기획부터 구매 이후까지 소매업 전반을 아울렀다. 아트로너스(Atronous)와 메이브(Maeve)는 상품 데이터와 수익성을 분석하고, 스퍼(Spur)와 베리스타일(Veristyle)은 온라인 매장 점검과 상품 검색을 지원한다.
AIUTA와 시미 인덱스(SeeMe Index)는 각각 개인화된 시각 경험과 다양한 소비자 집단의 분석에 주목했다. 호크스(Hawcx)는 소비자를 대신해 상품을 검색하고 거래를 수행할 AI 에이전트의 인증 기술을 개발한다. 트루레이팅(TruRating), 사이렌(Siren), 레디엠(Rediem)은 결제 순간과 구매 이후, 브랜드 커뮤니티에서 나타나는 고객 반응을 수집하고 분석한다.
뉴욕 패션위크에 이들 기업이 등장한 것은 패션테크의 중심이 눈에 보이는 디지털 의류나 가상 피팅을 넘어섰음을 보여준다. 상품을 기획하고 판매한 뒤 반품과 고객 관계까지 관리하는 운영 기술이 패션산업의 핵심 경쟁력으로 떠오른 것이다.
# ‘가짜’ 파손 사진으로 환불 요구...흔들리는 사진의 신뢰
[사진=Wyllo 홈페이지]
참가 기업 중에서도 반품과 환불 과정의 사기를 탐지하는 윌로(Wyllo)가 눈길을 끌었다.
온라인 쇼핑에서 고객이 상품 파손이나 배송 오류를 주장하면 판매자는 사진을 요구하는 경우가 많다. 사진은 고객의 주장이 사실인지 비교적 빠르게 확인할 수 있는 증거로 활용됐다.
하지만 생성형 AI가 실제와 구분하기 어려운 이미지를 만들어 내면서 이러한 확인 방식에 허점이 생겼다. 정상적인 상품을 찢어지거나 오염된 것처럼 보이게 하고, 멀쩡한 배송 상자를 심하게 훼손된 것처럼 표현할 수도 있다. 존재하지 않는 피해 장면을 만들어 환불이나 보상을 요구하는 일이 기술적으로 가능할 수 있다.
판매자 입장에서는 이미지 한 장만으로 실제 파손과 AI가 만든 장면을 구별하기 어렵다. 모든 환불 요청에 복잡한 확인 절차를 적용하면 정상적인 고객의 불편이 커진다. 반대로 고객 편의를 위해 즉시 환불하면 허위 요청에 반복적으로 노출될 수 있다.
2026년 체험 쇼케이스 [사진=NYFTLab 공식 행사 페이지]
윌로는 사진 자체의 진위를 판별하는 데만 의존하지 않는다. 고객의 신원과 구매 행동, 반품 및 보상 요구 이력, 여러 계정과 주문 사이의 연관성을 함께 분석해 요청의 위험도를 판단한다. 예컨대 서로 연관된 계정에서 유사한 환불 요구가 반복되는 등 이상 징후가 나타나면 이를 위험 신호로 분류할 수 있다. 주문과 결제 단계에서는 정상적으로 보였던 고객이라도 구매 후 행동에서 반복적인 이상 징후가 발견되면 별도의 검토 대상으로 분류한다.
분석 결과는 고객지원 담당자가 환불 여부와 확인 절차를 결정하는 데 활용된다. 위험도가 낮은 고객에게는 신속한 환불을 제공하고 의심스러운 요청에는 상품 회수나 추가 자료 제출과 같은 절차를 적용하는 방식이다.
이 방식은 반품 기간이나 조건을 일률적으로 강화하는 대신 고객의 행동과 위험도에 따라 대응 수준을 달리한다. 소매업체는 정상적인 고객의 편의를 유지하면서 반복적인 정책 악용을 선별적으로 차단할 수 있다.
# AI 시대, 기술보다 중요한 것은 ‘신뢰’
2026년 체험 쇼케이스 [사진=NYFTLab 공식 행사 페이지]
윌로의 사례는 AI가 소매업에 가져온 양면성을 보여준다. 생성형 AI는 상품 이미지를 다양하게 만들고 고객별 쇼핑 경험을 제공할 수 있지만 동시에 허위 증거를 만들고 기존의 환불 절차를 악용하는 데 사용될 수도 있다. AI가 만든 문제를 다른 AI가 다시 탐지하는 상황이 시작된 것이다.
다만 고객의 행동을 분석해 위험도를 판단하는 기술에도 해결해야 할 과제가 있다. 정상적인 고객을 사기 이용자로 잘못 분류할 수 있으며 분석 과정에서 어떤 개인정보가 활용되는지도 면밀히 살펴야 한다. 과거 행동을 바탕으로 고객마다 다른 반품 조건을 적용하려면 판단 기준의 공정성과 투명성 역시 확보돼야 한다.
비슷한 문제는 다른 패션테크 분야에서도 나타난다. 개인화된 상품 이미지는 소비자의 쇼핑을 편리하게 만들 수 있지만 화면 속 색상이나 재질, 착용 모습이 실제 상품과 다르면 기대를 왜곡할 수 있다.
결국 2026 콜렉티브가 보여준 소매업의 미래는 AI를 얼마나 많이 활용하느냐의 경쟁이 아니다. AI가 생성한 이미지와 판단을 소비자와 기업이 얼마나 신뢰할 수 있는지, 오류와 악용 가능성을 어떻게 관리할 것인지가 더 중요한 경쟁 요소가 되고 있다.
신아랑 에디터 thin567@dito.fashion