타임지 선정 AI인물 100인에 15살 청소년이 뽑혔다

미국 시사주간지 타임(TIME)이 인공지능(AI) 분야 가장 영향력 있는 100인에 청소년 안티 딥페이크 운동가를 선정했다.

타임은 지난 5일(현지시각) AI 분야에 큰 영향력을 끼친 인물 100인을 선정하는 ‘TIME100 AI 2024’를 발표했다. 100인 가운데 15살 프란체스카 마니(Francesca Mani) 안티 딥페이크 운동가가 포함됐다. 그는 어머니와 함께 딥페이크 피해자를 위한 정보를 제공하고 정치인, IT기업, 학교 등에 제도 개선을 촉구하는 활동을 하고 있다.

미국 뉴저지주의 웨스트필드 공립학교에 재학 중인 프란체스카 마니는 지난해 10월 같은 반 남학생들이 인공지능 프로그램을 활용해 자신을 비롯한 여학생들에 대한 성적인 딥페이크 이미지를 만들었다는 사실을 알게 됐다. 그러나 학교는 피해자를 제대로 보호하지 못했고 가해자에게 형사 책임을 물을 가능성도 낮았다. 지난 3월 영국 가디언 인터뷰에 따르면 당시 프란체스카 마니는 어머니에게 “무언가를 해야 한다”며 “피해자로 남지 않겠다”고 했다.

이후 프란체스카 마니와 그의 어머니는 지역구 의원들에게 딥페이크 성범죄에 대응책을 촉구하는 편지를 보낸 것을 시작으로 입법 및 제도개선 활동을 하고 있다.

미국에서도 딥페이크 성범죄는 사회적 문제가 되고 있다. 프란체스카 마니는 타임과 인터뷰를 통해 “저와 저희 반 친구들에게 그런 일이 일어났을 때, 우리는 아무런 보호도 받지 못했다”고 했다. 그는 미국은 물론 해외에서도 피해 사례가 많다고 전하며 “학교의 AI 정책의 부족, 처벌 법률의 부족, 대상자의 동의를 받지 않고 무시하는 태도”를 공통적인 문제로 꼽았다.

프란체스카 마니의 활동은 미국의 여러 주에서 논의 중인 딥페이크 규제 법안에 영향을 미쳤다. 가디언은 그의 활동을 언급하며 “미국에서 합의 없이 성적으로 노골적으로 딥페이크를 만든 사람들을 법적으로 책임지도록 하는 새로운 법안의 촉매제”라고 했다. 프란체스카 마니는 타임지에 “제 목표는 여성과 어린이를 보호하는 것이다. 우선 학교에 대한 AI 정책 마련부터 시작해야 한다. 대부분의 타게팅이 여기에서 이뤄지기 때문”이라고 했다.