What is the psychology of creating and sharing deepfake
-심리적 기제에 대한 대응책 모색 필요
-Need to find countermeasures against psychological mechanisms
글/김헌식(중원대학교 특임 교수, 정보콘텐츠학 박사, 평론가)
Written by/Kim Heon-sik (specially appointed professor at Jungwon University, doctorate in information content studies, critic)
딥페이크 음란물이 일상으로 파고들어 매우 심각한 양상이다. 일반인들의 피해가 늘어나는 것만이 아니라 아동 청소년들에게 돌이킬 수 없는 상처와 고통을 크게 하고 있다. 트리클 다운(trickle-down) 방식의 확산 효과를 생각한다면 이는 어느 정도 예견된 일이었는데 대비가 제대로 되어 있지 않았다. 이러한 딥페이크 음란물을 만들어 공유하는 행위에는 병리적 자기애와 집단 심리가 작동하고 있는데 본인들만 이를 간과하거나 합리화하는 경향을 보인다. 이제 이런 점을 참고하여 제도적 대응을 모색해야 한다.
Deepfake pornography has spread into our daily lives and is becoming very serious. Not only is the damage to the general public increasing, but it is also causing irreparable harm and pain to children and adolescents. Considering the spread effect of the trickle-down method, this was expected to some extent, but preparations were not made properly. Pathological narcissism and group psychology are at work in the act of creating and sharing such deepfake pornography, but only the people themselves tend to overlook or rationalize it. Now, we need to take this into account and seek institutional responses.
우선 생각해볼 수 있는 심리가 과시욕이다. 여기에는 여러 유형이 있는데 모두 같은 병리적 자기애에 토대를 두고 있다. 우선 새로운 기술적 테크닉이나 역량이 요구되는 분야나 영역에 대해서 과시한다. 딥페이크 기술은 새롭고 그동안 생각하지 못한 결과물을 내놓을 수 있으므로 과시의 대상이 된다. 수익은 이에 상응하는 대가로 여기는 이상 심리가 형성하기도 한다. 여기에는 사람들의 주목을 끌고 싶다는 자기애가 작용한다. 이런 욕구가 강한 이일수록 평소에 사회적 관계 속에 존재감에 자기만족을 하지 못할 수 있다.
The first psychology to think about is the desire to show off. There are several types, all based on the same pathological narcissism. First, show off areas or fields that require new technical techniques or capabilities. Deepfake technology is something to show off because it can produce new and unexpected results. An ideal psychology is formed in which profit is considered a commensurate reward. The narcissism of wanting to attract people’s attention comes into play here. The stronger this desire is, the less likely they are to be self-satisfied with their presence in social relationships.
이는 딥페이크 음란물을 만드는 이의 심리이고, 이를 공유하는 이들의 심리도 생각할 수 있다. 공유하려는 이들 때문에 급속하게 확산이 된다. 자신만이 알고 있거나 갖는 콘텐츠를 빨리 다른 사람에게 전파하고 공유하려는 심리가 작동하기 때문이다. 이러한 사람도 결국에는 다른 사람에게서 주목을 받고 하려는 심리가 평소에 팽배해 있기 쉽다. 이러한 콘텐츠를 공유하게 되면, 다른 이들이 이목을 집중시킬 수 있기에 존재감이 올라간다고 여긴다.
This is the psychology of those who create deepfake pornography, and we can also think about the psychology of those who share it. It spreads rapidly because of those who want to share it. This is because the psychology of quickly disseminating and sharing content that only you know or own to others is at work. These people also tend to have a tendency to want to get attention from other people. It is believed that sharing such content increases one's presence by drawing the attention of others.
그런데 여기에서 차별화의 심리가 생긴다. 다른 이들이 올리는 같은 콘텐츠가 아니라 뭔가 색다른 것이어야 한다. 초기의 딥페이크 음란물들은 주로 유명인들의 것이었다. 유명 배우나 가수들이 여기에 해당한다. 특히 세계적으로 인기가 있는 K 팝 걸그룹을 떠올릴 수가 있다. 하지만 그들은 갈수록 이는 차별성이 없고 실제감이 떨어진다고 여겼다. 따라서 주변에 있는 이들이 대상이 되면 실제성을 갖추며 차별성이 있는 것처럼 굴지만, 가짜이므로 혼란에 따른 희생자를 양산하게 한다. 그렇기에 직장이나 학교에 있는 사람의 딥페이크를 실제인 것처럼 만들어내고 그것을 과시하듯 공유할 때 차별성이 있다고 간주한다. 무엇보다 진짜인 것처럼 가장할수록 그 당사자의 고통은 더욱 증가하지만, 병리적 자기애에 빠져 있기에 분별심을 잃게 된다.
However, this is where the psychology of differentiation arises. It should be something different, not the same content that everyone else is posting. Early deepfake pornography was mainly of celebrities. Famous actors and singers fall into this category. In particular, we can think of K-pop girl groups that are popular around the world. However, they increasingly thought that this was indifferent and less realistic. Therefore, when people around them become targets, they act as if they are real and differentiated, but since they are fake, they create a large number of victims due to confusion. Therefore, it is considered differentiated when a deepfake of a person at work or school is created as if it were real and shared as if showing off. Above all, the more it is pretended to be real, the more the person's suffering increases, but because they are immersed in pathological narcissism, they lose their sense of discernment.
디지털 객기(客氣) 현상도 있다. 객기는 말도 안 되는 무모한 혈기를 의미한다. 허세를 부리거나 차분하지 못하게 쓸데없는 분위기를 만들어내는 것인데 이는 합리적이고 이성적인 행동과 반대다. 디지털 객기는 도덕적 윤리적인 선을 넘거나 범죄 행위조차도 개의치 않는 것이 대단한 것처럼 군다. 딥페이크에서도 음란물 등을 공유하는 것을 통해 용기 있고 과단성 있는 행동인 듯 뽐낸다. 이런 것이 단톡방이나 온라인 커뮤니티에서는 또래 집단 심리나 익명성에 기대어 더욱 심화하는 경향이 생길 수 있다. 특히, 또래 집단 심리가 형성되면 그 집단에서 배제되지 않기 위해서 무언의 압박에 따라서 문제 행동에 참여하게 되는 심리 기제가 형성되니 더 부작용을 키운다.
There is also a phenomenon of digital guest energy. Gaekgi means ridiculous and reckless blood. It creates a useless atmosphere by showing off or being restless, which is the opposite of reasonable and rational behavior. Digital entertainment seems to be great for not even caring about crossing moral and ethical lines or committing crimes. Deepfakes also show off courageous and decisive actions by sharing pornography. This can tend to intensify in group chat rooms or online communities, relying on peer group psychology or anonymity. In particular, when a peer group psychology is formed, a psychological mechanism is formed to participate in problematic behavior under unspoken pressure to avoid being excluded from the group, which further increases side effects.
이런 디지털 객기 속에서 희생자가 되는 이들은 항상 사회적 약자가 목표물이 된다. 딥페이크의 대상이 되어도 강력하게 저항을 못 하거나 자신들에게 직접적 위해를 강할 수 없는 이들이 선택된다. 여성, 아동 등이 대표적이다. 이러한 점은 현실의 권능적 욕구 불만과 결핍을 채우기 위해 약자를 희생물로 삼은 행위인 것이다. 자신들의 욕망에 비해 현실의 충족 수준이 낮을 때 이런 치명적 집단적 행위에 동조하는 정도가 심화하기에 이른다. 자신만이 아니라 다른 이들도 동조하거나 공감하는 정도가 더 있을수록 자기의 생각과 행동 등을 정당화하거나 합리화해주기 때문이다. 하지만, 그것은 병리적 자기애 소유자들의 폐쇄 공동체일 뿐이지 아무런 사회적 지지를 보편성 있게 형성할 수 없다. 그럴수록 더욱 극단으로 치닫게 되고 나중에는 돌이킬 수 없는 수준에 빠지게 된다.
Those who become victims in this digital environment are always the socially disadvantaged. Even if they become the target of deepfakes, those who cannot strongly resist or pose direct harm to themselves are selected. Representative examples include women and children. This is an act of sacrificing the weak in order to satisfy the dissatisfaction and deficiency of power in reality. When the level of satisfaction in reality is low compared to one's desires, the level of sympathy for such fatal collective actions becomes intensified. This is because the more people agree or sympathize with not only oneself but also others, the more one's thoughts and actions are justified or rationalized. However, it is only a closed community of pathological narcissists and cannot form any universal social support. The more it goes on, the more extreme it becomes, and eventually it falls to an irreversible level.
즉각적 처방은 법적 대응일 것이다. 근원적으로 중요한 것은 건강한 자아상과 현실에 맞는 목표를 세우고 이를 성취해 나가는 것이다. 이는 이성 관계나 사회적 관계에서 마찬가지라고 할 수 있다. 그렇지 못하면 병리적 자기애에 빠져 딥페이크 같은 허상의 수단을 통해 보상을 받으려는 병리적 자기애를 집단적으로 형성하게 되어 타인뿐만 아니라 자기 자신도 파괴할 수 있다. 이는 문화적 관점의 접근이 필요함을 의미한다. 딥페이크 음란물에 대한 여러 대책이 모색되고 있는 상황에서 이런 병리적 심리들을 반영하는 것이 필요할 것이다.
The immediate remedy would be legal action. What is fundamentally important is setting goals that fit a healthy self-image and reality and achieving them. This can be said to be the same in heterosexual relationships and social relationships. Otherwise, we may fall into pathological narcissism and collectively form pathological narcissism seeking compensation through illusory means such as deepfakes, destroying not only others but also ourselves. This means that an approach from a cultural perspective is necessary. In a situation where various measures against deepfake pornography are being explored, it will be necessary to reflect these pathological psychology.