GPT-4와 같은 거대언어모델(LLM)은 의사결정 향상, 운영 간소화, 혁신을 약속하며 비즈니스 리더들의 마음을 사로잡았습니다. 비즈니스 리더들은 조직별 데이터로 학습된 LLM을 미세 조정해 각 조직의 차이와 고유한 특성을 파악하도록 하고 있습니다. 더 많은 맥락을 이해하고 조직의 요구 사항에 맞게 미세 조정된 모델은 조직 성과를 획기적으로 향상시키는 강력한 맞춤형 AI 경험을 제공합니다.

그러나 미세 조정된 모델을 학습 시키려는 기업에는 세 가지 당면 과제가 있습니다.

1. (데이터 부족 문제) 미세 조정된 모델은 많은 기업에 부족한 자원인 광범위한 고품질 데이터가 필요하다.

2. (범용 AI 모델의 편향성) LLM은 인터넷에 공개된 사용 데이터로 학습되기 때문에 특정 커뮤니티나 사용자의 뉘앙스를 고려하지 않는다. 따라서 답변이 편향되거나 생성된 콘텐츠의 다양성과 다원성이 부족할 수 있다.

3. (개인정보 보호 문제) 원래는 다른 목적으로 수집된 사용자의 개인정보로 미세 조정된 모델을 학습 시키면 개인정보 침해가 발생할 수 있다.

다행히도 이런 문제는 극복할 수 있습니다. 고품질의 풍부한 데이터에 개인정보 보호를 학습할 수 있는 공간을 제공하고, 개인정보 보호법을 준수하며, 미세 조정된 모델의 잠재력을 최대한 발휘할 수 있는 플랫폼이 등장하고 있습니다. 미세 조정된 모델이 이런 플랫폼에서 제공하는 데이터로 학습하면 다양한 하위 커뮤니티에서 인사이트를 발굴할 가능성이 높아집니다. 결과적으로 보다 다양하고 다원적이며 보편적인 AI가 탄생할 수 있게 됩니다.

미세 조정 AI의 데이터 과제에 대해 알아야 할 사항

앞서 언급한 세 가지 과제에 대해 리더가 알아야 할 사항은 다음과 같습니다.

1. 데이터 부족 문제

- 대부분의 조직은 충분한 데이터를 보유하지 않으며, 사용 가능한 데이터가 구조화되지 않거나 품질 문제로 인해 인사이트를 추출하기 어렵다.
- 방대하고 다양한 데이터 세트를 필요로 하는 미세 조정된 모델은 이러한 문제로 인해 성능이 저하될 수 있다. 

2. 범용 AI 모델의 편향성

- 범용 AI 모델은 인터넷에서 접근 가능한 내용을 반영하므로, 지배적인 이야기와 관점을 주로 반영한다.- 
- 특정 커뮤니티의 경험과 관점은 소외되거나 생략될 수 있어, 조직은 다양한 사회 구조를 반영하는 데이터를 통해 AI 모델을 포용적이고 공평하게 강화해야 한다. 

3. 개인정보 보호 문제

- 명시적인 동의 없이 개인정보를 사용해 미세 조정된 모델을 학습 시키면, 비공개 개인정보가 노출될 수 있고 개인정보 보호 규정과 충돌할 수 있다.
- 정보 수집, 처리, 저장 전 과정에서 데이터의 기밀성과 무결성을 유지하도록 신중하게 접근해야 한다. 

비즈니스 리더를 위한 다음 단계

비즈니스 리더는 데이터 협업을 통해 다양하고 다원적인 시각으로 세상을 바라보고 세밀하게 조정된 모델의 잠재력을 최대한 활용할 수 있습니다. 

따라서 비즈니스 리더는 생성형 AI를 사용할 때 다음과 같은 단계를 고려해야 합니다.

1. 범용 AI 모델의 한계 인식

- 범용 AI 모델은 특정 기업의 상황, 문화, 운영상의 뉘앙스를 이해하지 못할 수 있어 실제 적용 시 성능이 저하될 수 있다.
- AI 모델을 조직의 고유한 환경과 요구 사항에 맞게 맞춤화하는 것이 필수적이다. 

2. 데이터 품질과 다양성 우선시

- 고품질의 다양한 데이터세트는 AI 모델 학습에 필수적이며, 이를 통해 더 정확하고 편향되지 않은 결과를 도출할 수 있다.
- 데이터 협업을 통해 다양한 데이터를 확보하면 AI 모델의 성능이 향상되고, 동등한 서비스를 제공할 수 있다. 

3. 새로운 협업 시도

- 비즈니스 리더는 데이터 협업을 통해 파트너, 고객, 경쟁사와 협력할 수 있다.
- 업계 전체의 문제를 해결하기 위해 리소스와 지식을 공유하면 혁신과 효율을 높일 수 있다.
- 이런 전략은 비용 절감과 효율성 향상을 가져오며, 새로운 성장 기회를 창출한다. 

4. 데이터 변질 가능성 인식

- 데이터는 현실을 반영하기 때문에, 최신 데이터를 사용해 AI 모델을 미세 조정하는 것이 중요하다.
- AI 모델이 해결해야 하는 문제의 최종 상태를 반영하는 최신 데이터 소스를 찾아야 한다.
- 데이터 협업은 외부에 존재하는 데이터를 활용할 수 있는 방법을 제공한다. 

앞서 언급한 4단계를 고려하는 비즈니스 리더는 사회의 다양성을 포착하는 유용한 AI 도구를 개발해 책임감 있고 성공적인 방식으로 우수한 비즈니스 성과를 달성할 수 있을 것입니다.

출처 : HBR(2024. 3. 12.) 데이터 협업’ 플랫폼으로 맞춤형 AI 구축하기