알고리즘 추천 시스템은 우리의 일상 속에서 많은 선택을 도와줍니다. 영상 시청 앱에서 어떤 영화를 볼지 정하거나, 쇼핑 앱에서 필요한 물건을 구매할 때, 혹은 배달 앱에서 음식을 주문할 때 추천을 받아본 적 있으신가요? 추천 시스템이 여러분의 관심사와 선호를 정확히 반영해 더 많은 시간을 앱에서 보내게 하거나 구매를 유도했다면, 해당 알고리즘은 성공적이라고 할 수 있습니다!

이러한 알고리즘은 사용자 데이터를 학습하고, 이를 기반으로 미래의 선호를 예측하는데 특화되어 있습니다. 알고리즘은 이때 소비자가 어떤 물건을 구매할지, 어떤 영화를 볼지, 어떤 직업을 선택할지에 대한 결정을 도와줍니다. 하지만 한가지 중요한 점이 있습니다! 알고리즘에도 설계 과정에서 인간의 편향성이 내재될 수 있다는 점입니다. 알고리즘은 사용자 행동 데이터를 기반으로 학습하기 때문에, 데이터 자체가 가지는 편향성이 그대로 반영될 가능성이 높습니다. 그렇기에 높은 성능의 추천 알고리즘을 만들기 위해서는 사용자 데이터를 분석할 때 이러한 편향성을 반드시 고려해야 합니다.

현대인의 필수앱이죠! 배달 앱을 예로 들어보겠습니다. 앱이 월요일에는 피자를, 화요일에는 햄버거를, 그리고 수요일에는 치킨을 추천한다고 가정해보죠. 그런데 이런 추천이 항상 만족스럽지 않을 수 있습니다. 이떄 앱 관계자는 이렇게 설명합니다. "저희 알고리즘은 고객님의 과거 주문 기록을 바탕으로 가장 선호하는 메뉴를 분석하고, 그 결과를 토대로 추천해드립니다. 이를 통해 맞춤형 개인화 식사 플랜을 제공하고 있습니다." 그러나, 문제는 사용자의 다양한 취향을 반영하지 못하고, 과거의 선택을 반복하는 데 그치기 때문에 추천이 단조롭게 느껴질 수 있다는 점입니다.

그렇다면 왜 이러한 문제가 발생할까요? 추천 알고리즘은 기본적으로 사용자 행동에 대한 심리학적 모델을 기반으로 설계됩니다. 이 과정에서 알고리즘은 사용자의 일관된 선호를 추정하려 하지만, 때로는 사용자가 기대하는 결과와 불일치할 수 있습니다. 그렇다면 이러한 문제를 해결하기 위해 어떤 개선 방안을 적용할 수 있을까요?

 1.    알고리즘의 편향성 점검

기업은 A/B 테스트를 활용하거나 내부 데이터를 분석해 알고리즘이 사용자 행동과 규범적 선호 사이의 차이를 언제, 왜 나타내는지 파악할 수 있습니다. 예를 들어, 의료 시스템에서 사용된 알고리즘이 흑인 환자보다 백인 환자를 우선시했다는 연구 결과가 있습니다. 이는 건강 상태가 비슷한 환자들 사이에서도 백인 환자에게 더 많은 의료비를 지출했기 때문에 발생한 문제였습니다.

2.    규범적 선호를 반영하는 알고리즘 설계

알고리즘 설계자는 사용자 행동을 더 면밀히 관찰함으로써 욕구 중심의 추천을 넘어 의무나 장기적인 선호를 반영할 수 있는 방식으로 알고리즘을 조정할 수 있습니다. 예를 들어, 사람들이 사과와 초코바 중 하나를 선택할 때, 마우스의 이동 경로를 분석해 두 옵션 간의 갈등을 파악하는 방식을 활용할 수 있습니다.

3.    다양한 데이터로 알고리즘 훈련

알고리즘은 특정 데이터셋에만 의존하지 않고, 다양한 사용자 데이터를 학습하도록 설계해야 합니다. 또한, 사용자가 없는 상황에서도 규범적 선호를 반영한 시뮬레이션 데이터를 생성해 이를 기반으로 알고리즘을 훈련시키는 방법도 효과적입니다

4.    사용자 피드백 중심의 알고리즘

알고리즘에 사용자 피드백을 직접 반영하는 설계를 적용할 수도 있습니다. 설문조사나 인터뷰를 통해 사용자의 선호를 수집하고, 이를 알고리즘의 학습 과정에 반영하는 것이죠. 이렇게 하면 사용자의 행동에 나타난 선호뿐 아니라 명시적으로 표현된 선호도 반영할 수 있습니다.

알고리즘은 우리의 삶에 밀접한 영향을 받고 있습니다. 인터넷 쇼핑을 할때도 영상을 시청할 때도 SNS 사용을 할때도 말이죠. 하지만 알고리즘이 우리의 모든 관심사를 잘 반영해주지는 못합니다. 따라서 이제 기업, 정부, 과학자는 알고리즘의 설계의 행동 과학에 더욱 투자해야 할 때입니다.

출처: https://www.hbrkorea.com/article/view/atype/di/category_id/3_1/article_no/1066/page/2