안녕 얘들아
우선 나는 20대인데 10대판이 화력이 좋아서 여기 올리는 점 이해 부탁해ㅜㅜ
+)바쁜 사람들은 맨 밑에 세줄요약 있어!!
최근 여러 가지 문제로 논란이 되고 있는 ai ‘이루다’ 들어 봤을 거야.
모르는 사람들을 위해 간단히 설명하면 심심이 같은 챗봇인데, 실제 사람과 유사한 대화가 가능하다는 점에서 인기를 끌고 있어.
꽤 자연스럽지? 이런 대화가 어떻게 가능한 걸까? 그건 바로
‘실제 연인들이 나눈 대화 데이터 약 100억 건’을 이용해서 학습시켰기 때문이야. 엄청난 양이지? 그렇다면 이 엄청난 양의 데이터를 어떻게 수집한 건지 당연히 의문이 생길거야.
이 데이터는 이루다와 같은 개발사인 어플 ‘연애의 과학’을 통해 수집되었어.
연애의 과학은 이것처럼 여자와 남자의 심리, 연애에 필요한 각종 꿀팁 등을 알려주던 어플이야. 연애하면서 인터넷 많이 하는 사람들은 분명히 한 번쯤 본 적 있을 어플일거야.(해당 어플 인스타 계정 팔로워가 19만 명에 달하니까..)
이 어플에는 연애와 관련 있는 칼럼뿐만 아니라 다양한 심리테스트들이 있어. 그리고 그 중에는 연인 간 카톡 내용을 분석해준다는 콘텐츠가 있었어.
이게 그 중 하나야. 꽤 흥미로워 보이지. 캡처본에 나와 있는 것처럼 1년 카톡 내용을 결산하는 콘텐츠야. 1년 동안 어떤 대화를 얼마나 나눴는지, 어떤 주제로 이야기를 많이 했는지, 소중한 순간들은 어떤 것들이 있는지 정리해준다는거야. 참고로 이건 “유료” 서비스야.
ai 이루다는 바로 이 내용을 바탕으로 만들어졌어. 그럼 이용자들에게 자기 카톡 대화 내용이 이런식으로 활용되는 것에 동의를 구했을까? 개발사 입장에서는 충분히 구했다고 주장할 수 있을거야.
이런 식으로... 저 개인정보 취급방침을 클릭해보면 중간에 이런 내용이 나와.
신규 서비스 개발. 로그인화면 하단에 ‘로그인함으로써 약관에 자동 동의하는 것’이라는 문구를 클릭해서 읽어보면 신규서비스 개발에 이용될 수도 있다는 걸 알 수 있어. 그런데 이용자 중에 이걸 인지한 사람이 얼마나 될까. 또 신규 서비스 개발이란 게 끽해야 어플 내 새로운 심리테스트 개발인 줄 알았지 내 대화가 느닷없이 ai챗봇(..) 개발에 이용될지 누가 생각했겠어.
그리고 이건 더 큰 문제를 일으키고 있어.
내 집주소
내 은행 계좌
ㅈㅇ이 ㄷㅁ이..? 뭔가 이상하지?
내 개인정보가 챗봇 이용자들에게 노출되고 있는거야.
그리고 먼저 논란됐던 ai에 대한 성희롱 문제.. 고민했는데 대화 내용을 직접 올리진 않을게. 궁금한 사람들은 포털사이트에 쳐보면 기사들을 통해 간접적으로 나와 있어. 그런 성적인 대화들도 그냥 나온걸까..? 실제 연인들 간의 카톡 상의 은밀한 대화가 노출된 것일 가능성을 절대 배제할 수 없다고 생각해. 그 외에 지극히 개인적이고 비밀스러운 이야기들도.
나는 이 개인정보 유출 문제가 굉장히 심각한 문제라고 생각하는데 다른 논란들에 비해 상대적으로 이슈화되지 않는 감이 있어서 글 썼어. 연애의 과학 측에서는 다음과 같은 입장을 내놨는데
너희들의 판단에 맡길게. 난 비식별화 작업이 제대로 진행된 게 맞는지, 이미 학습된 내 데이터들이 전부 지워질 수가 있는지 미지수야..
추가로 우려되는 건 연애의 과학 카톡 분석 서비스 중에는 위에서 내가 소개한 것처럼 연인을 대상으로 한 것만 있는 게 아니야. 내가 짝사랑 중인 사람, 썸타는 사람과의 대화도 분석할 수 있는 서비스가 있어. 그 말인 즉슨 너도 모르는 사이에 네 개인적인 대화가 어플에 입력돼서 ai의 학습에 쓰이고 출력되고 있을지도 모른다는 거야. 이용자들은 돈 내고 자기 개인정보를 갖다 바친 셈이고..
앞에서 말한 것처럼 이 개인정보 문제에 대해서는 공론화가 많이 되지 않는 것 같아서 글 썼어. 이 문제에 대해서도 많이 관심 가져주면 좋겠어. 부탁할게.
++))
몰랐는데 어플 내 QnA란에 있던 내용이래..
세줄요약
1. '연애의 과학'이라는 연인 간 카톡대화 분석해주는 어플이 있음
2. 수집된 대화 이용해서 챗봇을 만들어버림
3. 내 애인과 한 대화가 누구한테 어떤 식으로 유출될지 모름(개인적인 대화, 주소, 계좌번호같은 신상정보 포함) 불특정다수의 피해자 이미 존재
댓글