Coding/코딩테스트

#17677 뉴스 클러스터링

서머스 2020. 11. 5. 00:37

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 카카오 신입 개발자 공채 관련 기사를 검색해보았다.

  • 카카오 첫 공채..'블라인드' 방식 채용
  • 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
  • 카카오, 블라인드 전형으로 신입 개발자 공채
  • 카카오 공채, 신입 개발자 코딩 능력만 본다
  • 카카오, 신입 공채.. 코딩 실력만 본다
  • 카카오 코딩 능력만으로 2018 신입 개발자 뽑는다

기사의 제목을 기준으로 블라인드 전형에 주목하는 기사와 코딩 테스트에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 자카드 유사도라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 1을 3개 가지고 있고, 다중집합 B는 원소 1을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 1을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 1을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 FRANCE와 FRENCH가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

 

 

 

-----------

1. str1, str2를 각각 두문자씩 추출한다. substr을 이용함. 만약에 앞뒤가 영문자가 아니면 그냥 넘어간다

ctype.h 헤더를 몰라서 굉장히 길게 썼었다.

.. 근데 이거 때문에 테스트를 통과를 못했다. 근데 왜 안되는지 사실 아직도 잘 모르겠다;;

isalpha()라는 걸 알게 되고 코드를 조금 줄일 수 있었다. 익명의 학우분이 도와주심...

만약에 앞뒤 둘다 영문자이면 str1 str2 각각의 vector를 만들어서 저장한다

2. 교집합을 생성한다

다들 map을 활용해서 숫자만 계산했던데, 나는 좀 미련하게.. 그냥 집합 자체를 만들었다

일단 substr에서 복사해온 뒤 중복을 제외한 벡터 temp를 만든다.(이름은 딱히 생각 안나서 그냥 막지음)

temp와 str2 함수와 비교해서, 만약에 temp의 원소가 str에 있으면 넣는다. 대신 반복문을 이용해서, str1, str2 중 개수가 min인 만큼 넣는다.

3.합집합 생성

앞의 temp를 활용한다.

insert 함수를 사용해서 temp 뒤에다가 str2를 덧붙이고, 다시 중복 제거 한다.

temp 안의 원소들은 어쨌든 str1이든 str2이든 무조건 있는 거니까, 교집합처럼 있니 없니 굳이 따질 필요 없다

str1와 str2에서 max값을 구하고 그만큼 반복해서 합집합 벡터에 넣으면 된다.

4. 공집합 예외

자카드계산을 하려면 n(교)/n(합) 인데, 합집합이 공집합이면 계산이 안된다

그렇기에, if 합집합==0 && 교집합==0 이면 자카드값을 =1로 만드는 조건을 걸어놔야 한다.

교집합==0은 굳이 쓸 필요 없는 것 같은데 문제에 나와 있으니까..

5. *65536