PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2023/12/19 19:26:29
Name Regentag
File #1 수정됨_KakaoAI.png (178.6 KB), Download : 33
Subject [일반] 카카오톡 AI 남성혐오 논란


카카오톡은 오늘(2023.12.19.) 말투변경 AI라는 기능을 출시했습니다.
입력한 문장의 말투를 변경해주는 AI죠.

그런데 하루를 넘기지 못하고 사건이 터졌네요.

논란이 된 부분은 한국 남성을 낮잡아 부르는 말인 [한남]과, 한국 여성을 낮잡아 부르는 말인 [한녀]를 다르게 처리하는 것이었습니다.
한녀가 포함된 문장을 입력하고 AI를 돌리면 부적절한 표현이라고 지적하는데, 한남이 포함된 문장은 그렇지 않았던 것이죠.
https://namu.wiki/w/%EC%B9%B4%EC%B9%B4%EC%98%A4%ED%86%A1%20AI%20%EB%82%A8%EC%84%B1%ED%98%90%EC%98%A4%20%ED%95%99%EC%8A%B5%20%EB%85%BC%EB%9E%80

심지어 한녀를 입력하고 특정 어투를 선택하면 한남으로 변경되거나,
https://www.dogdrip.net/528874821

한남이 포함된 문장을 [그 손모양] ???? 이모지로 변환시켜 주기도 하네요.
https://www.dogdrip.net/528882774

아마도 두가지 경우 중 하나이지 않을까 합니다.
  1. AI를 학습시킨 데이터셋이 편향되었거나, 혐오표현에 오염되었고 이를 적절히 거르지 못했다. (다음 카페에는 여성시대가 있죠...)
  2. 데이터를 사람이 라벨링했고, 이 과정에서 부적절한 개입이 있었다.

이 글을 쓰고있는 시점에는 카카오에서도 인지하여 한남, 한녀 모두 키워드 차단이 들어갔다고 하네요.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
Regentag
23/12/19 19:28
수정 아이콘
PGR은 본문에도 댓글에도 이모지를 넣을 수 없나보군요..
티바로우
23/12/19 19:29
수정 아이콘
뭐 얼른 고치면 해프닝이죠
Regentag
23/12/19 19:34
수정 아이콘
넵. 얼른 고치면 해프닝이긴 하지요.
저도 직접 써보고 싶었는데, "사용자가 많다"는 이유로 기능 활성화가 안되네요. 지금은 아예 기능 접근을 차단했나봐요.
Dreamscape
23/12/19 19:29
수정 아이콘
한남대교 : 억울합니다
23/12/19 19:30
수정 아이콘
사람이 손댄걸까요? 궁금하네요
Regentag
23/12/19 20:12
수정 아이콘
수집된 데이터가 오염되었을 가능성쪽이 좀더 그럴듯해 보이긴 합니다.
남성혐오 성향의 거대 여초 커뮤니티가 다음 카페에 자리잡고 있으니까요..
페스티
23/12/19 20:46
수정 아이콘
직접 해봤었는데 필터링 메시지는 직접 손대는건지 계속 실시간으로 변하더군요.
아서스
23/12/19 19:32
수정 아이콘
AI가 수집한 데이터가 기반이지 않을까 싶긴 한데...
及時雨
23/12/19 19:40
수정 아이콘
학습을 제대로 한 거 같긴 한데 크크크
무냐고
23/12/21 09:03
수정 아이콘
저도 이쪽이라고 봅니다
한남은 훨씬 광범위하게 써버리는게 현실이니.. 크크크
23/12/19 19:43
수정 아이콘
가비지인 가비지아웃이죠
쓰레기 데이터가 들어간듯합니다
구상만
23/12/19 19:48
수정 아이콘
피해방향이 반대쪽이었으면 언론이 득달같이 몰려들어서 '여성혐오 카카오톡 이대로 괜찮은가?' 같은 기사 수십 개 쏟아내고 정치권에서도 우르르 몰고 나올 텐데 남자가 피해자 쪽이라 그런가 조-용하네요 크크크
23/12/19 19:51
수정 아이콘
1번이죠 뭐
23/12/19 20:30
수정 아이콘
성별 프레임은 결국 누군가가 노예가 되지않는한 끝나지않는 혐오싸움이죠. 인구의 절반이니 그 발언권이 막강하면서도 서로 팽팽하니까 말이죠. 이것도 완벽하진 않고 그동안 문제들이 나왔지만 자본주의사회에서 약자 프레임은 돈의 많고 적음을 우선으로 하는게 맞는것 같습니다.
Regentag
23/12/19 22:30
수정 아이콘
성별 갈등이 심해진것에 대한 여러 분석중에 저는 이런 이유들이 공감이 가더군요.
1. 경제적/심리적 여유가 없는 우리 사회의 구성원들이 더이상 관용을 발휘하기 어려움
2. 정치권의 편가르기 주제가 지역 → 세대/성별로 이동 (정확히는 2030 남성 vs. 나머지)
3. 사람은 어딘가에 소속감을 느껴야 하는데, 아무곳에도 소속되지 못한 사람이 늘면서 성별에 소속감을 느낌

저는 1번이 해결되면 2번, 3번도 자연스레 해결될거라는 생각입니다. 아무리 봐도 성별 프레임은 돈이 없는 약자들끼리의 싸움같거든요...
누군가는 이걸 이용해 돈을 벌고 말이죠 흐흐
23/12/19 22:57
수정 아이콘
하지만 돈이없는것은 전형적인 무능으로 치부되기에 돈없들끼리 싸울지언정 적어도 익명속에 숨어있는 온라인에서는 그들조차 돈이 없는 약자 코스프레는 잘 안하는 신기한 점이 있긴 합니다(...) 그래서 돈이 없는 사람이 해결책을 찾을만한 방향으로 가기보다는 본인들이 적으로 점찍은 집단의 혐오와 저주 + 그를 통한 자기합리화로 들어가니 결국 1,2를 해결할수 없게되죠 ㅠㅠ
김재규열사
23/12/19 20:52
수정 아이콘
한남이니 한녀니 쓰면 절대 안되는 말인가요? 한남은 지명이기도 해서 못쓰게 할수도 없고 한녀도 그냥 쓸 수 있게 풀어주는게 맞지 않나 싶네요.
cruithne
23/12/19 21:45
수정 아이콘
한남은 그 자체로도 단어로 쓰일 수 있으니 그걸 구분해낼 정도의 ai 기술레벨이 아니었지 않나 싶습니다.
Regentag
23/12/19 22:34
수정 아이콘
한남, 한녀는 상대방이 모욕적으로 여길 수 있는 표현입니다. 이게 진짜로 모욕인지, 지명을 말하는건지는 문맥을 보면 자연스럽게 드러나죠.
사람 대 사람으로 대화하는 카톡방에서 이걸 못 쓰게 할 이유는 없고, 못 쓰게 하지도 않았습니다. 문제가 된 지점은 이 단어들이 AI를 거쳤을 때의 결과가 서로 달랐고 편향적이라는거죠.

카카오의 AI 기술력이 아직 문맥을 구분할 수 있는 수준도 아닌것 같고요.
인간실격
23/12/19 23:17
수정 아이콘
다른건 모델 훈련시 데이터 편향성으로 인해 일어날 수 있는 일이라고 치는데 그 이모티콘 나오는건 진짜 누군가 고의적으로 했다고밖에 크크크크
이건 그냥 카카오가 이루다만도 못한 수준이란거 셀프 인증한거죠.
펠릭스
23/12/20 00:24
수정 아이콘
확실히 권력은 사건이 아니라 사건이 처리되는 방식에서 그 힘의 강약이 드러나는 것 같습셒슾.

저게 '한녀'라는 말로 바뀌어서 같은 사태가 일어났다면 우리의 언론지형이 어떻게 되었을지는 명약관화한 일일텐데.

도대체 이렇게 문화권력에서의 기득권이 왜 약자 코스프레를 하고 있는지는...... 뭐 다 아시겠지만 그게 돈을 주고 권력을 주니까 이지겠지요.

그럼에도 뭔 20,30도 아닌 이 아재가 분노하게 만드네요. 이 불공정은. 이 불균형은.
파쿠만사
23/12/20 10:07
수정 아이콘
어제는 한남쓰면 그 손가락 나왔는데 오늘 해보니 안나오네요 먼가 패치된건가...
코도스
23/12/20 23:11
수정 아이콘
남성이 모욕 대상이 될때면 언론들은 쥐죽은 듯 조용하죠
Capernaum
23/12/24 02:57
수정 아이콘
와...

이모지는 상당히 의도적인데...

넥슨 사건보다 큰 사안 같은데
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
100525 [정치] "물에 빠졌다" 보고에‥사단장 "그 친구 수영할 줄 아냐? [102] 덴드로븀18305 23/12/22 18305 0
100524 [일반] 애플워치 미국 판매중지 조치 시행 [6] Leeka8137 23/12/22 8137 2
100523 [일반] 'BTS 정보 무단 열람' 코레일 직원, 재심 끝에 복직 [44] Leeka11146 23/12/22 11146 9
100522 [일반] 아파트 건설현장에서의 설계변경과 이해관계의 조율 [20] 퀘이샤8719 23/12/22 8719 13
100521 [일반] 점점 확대되어가고 있는 도로 열선 [132] VictoryFood17813 23/12/21 17813 2
100520 [일반] 죽은 군인들로부터 뽑아낼 수 있는 것들 [14] 우주전쟁12394 23/12/21 12394 18
100519 [정치] 與 비대위원장에 한동훈 지명 [344] Rio24484 23/12/21 24484 0
100518 [정치] 대주주 양도세가 10 억에서 50 억으로 상향됐습니다. [176] 아이스베어16182 23/12/21 16182 0
100517 [일반] 아쿠아맨과 로스트 킹덤 감상(스포주의) [25] PENTAX8274 23/12/20 8274 2
100516 [일반] [웹소설 후기] 악(惡)의 등교 <스포주의> [10] 일월마가8215 23/12/20 8215 3
100515 [일반] 뭐. PGR 20학번이 글 1천개를 썼다고? [152] SAS Tony Parker 11617 23/12/20 11617 15
100514 [일반] 아이를 어떻게 키워야할까?_9. 아이는 부모를 성장시킨다. (마지막) [5] realwealth5978 23/12/20 5978 2
100513 [일반] <노량: 죽음의 바다> 짧은 감상 (스포일러 포함) [30] BTS8787 23/12/20 8787 4
100512 [일반] [에세이] 태계일주3: 오지에서 만난 FC 바르셀로나 (上편) [5] 두괴즐7936 23/12/20 7936 1
100511 [정치] 장예찬 최고위원의 여론 왜곡 [64] 맥스훼인12211 23/12/20 12211 0
100510 [일반] 콜로라도 대법원 : 트럼프 대선 경선 출마 금지 [66] 타카이13174 23/12/20 13174 7
100509 [일반] 강아지 하네스 제작기 (7) - 컨셉은 정해졌다 [11] 니체6447 23/12/19 6447 3
100508 [일반] 중국의 전기차, 한국 시장은? [63] 사람되고싶다11376 23/12/19 11376 12
100507 [정치] '패소할 결심'대로... '윤석열 징계 취소 2심' 뒤집혔다 [94] Crochen15458 23/12/19 15458 0
100506 [정치] 이코노미스트가 한국을 OECD 중 2위로 평가했네요 [100] 아이스베어15595 23/12/19 15595 0
100505 [일반] 요즘 코인에서 유행하는 인스크립션, 오디널스, BRC란 [12] 시드마이어8507 23/12/19 8507 1
100504 [일반] 카카오톡 AI 남성혐오 논란 [24] Regentag9995 23/12/19 9995 5
100503 [정치] 전두환 회고록으로 살펴본 '서울의 봄' [15] bluff9168 23/12/19 9168 0
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로