|
Gartner의 최근 조사에 따르면 경영진의 70%가 생성적 AI를 조직에 통합하는 방안을 모색하고 있는 것으로 나타났습니다. 하지만 개인정보 보호, 보안, 저작권 문제, 잠재적인 편견에 대한, 생성적 AI와 관련된 위험은 맞춤형 스팸과 같은 사소한 불편함부터 대규모 데이터 센터의 환경 영향과 같은 심각한 문제까지 다양합니다. AI 도입을 효과적으로 진행하려면 AI와 관련된 다양한 유형의 위험을 인식하고 관리하는 것이 필수적입니다. 이에, 생성형 AI 환경에서 발생할 수 있는 잠재적 문제를 분류하고, 이에 대한 완화 방법을 제시하는 프레임워크를 제안합니다.
- 오용 (Misuse):
- AI의 비윤리적이거나 불법적인 사용을 의미함.
- 사기나 허위 정보 캠페인과 같은 해로운 목적에 활용됨.
- AI 기술의 발전으로 사이버 공격에 AI가 사용되고 있으며, 생성적 AI의 도입으로 딥페이크(가짜 이미지 및 비디오)가 증가하고 있음.
- 예시: 사회 공학, 자동화된 허위 정보 공격, 금융 사기, 신원 도용, 선거 결과 조작 등.
- 오적용 (Misapply):
- AI가 정확도보다 확률을 우선시하여 부정확한 결과를 초래할 수 있음.
- 사용자들이 AI 도구를 부적절하게 의존하거나 잘못 활용할 때 문제가 발생함.
- 예시: 2023년 6월, 조지아의 라디오 진행자가 ChatGPT의 잘못된 정보로 인해 OpenAI를 상대로 소송을 제기한 사례.
- 잘못된 표현 (Misrepresent):
- 제3자가 생성한 AI 출력물이 신뢰성이나 진위가 의심되지만 의도적으로 사용되거나 배포되는 경우.
- 딥페이크를 활용한 제품 실패 이미지가 소셜 미디어에서 자주 공유됨.
- 예시: 2023년 3월, Tesla Cybertruck의 충돌을 조작한 딥페이크 비디오가 Reddit에서 널리 공유됨.
- 우발적 사고 (Misadventure):
- 사용자가 AI 콘텐츠의 진위 여부를 인지하지 못하고 무의식적으로 소비하거나 공유하는 경우.
- 예시: Pentagon 폭발 사진의 딥페이크가 실제로 오해되어 주식 시장에 영향을 미친 사례. 2019년, 영국 에너지 회사 CEO가 딥페이크 음성 사기로 인해 큰 금액을 송금한 사례.
각 리스크가 가진 고유한 문제가 있지만 공공 및 민간 기업의 리더가 이러한 리스크를 완화하기 위해 취할 수 있는 조치가 있습니다. 해당 리스크가 의심스러운 AI 콘텐츠 ‘제작’의 결과인지 또는 의도와 관계없이 의심스러운 AI 콘텐츠 ‘사용’의 결과인지에 따라 권장 사항이 달라지므로 정확한 분류를 통해 완화 조치를 구체화해야 합니다.
- 콘텐츠 제작 위험 완화하기
- 조직의 가치와 AI 원칙 일치: AI 사용이 윤리적 가치에 부합하도록 조직 내 AI 사용 원칙과 가이드라인 수립.
- 생성형 AI 출력물에 워터마크 삽입 의무화: AI가 생성한 출력물에 워터마크를 표시하여 투명성과 추적 가능성 보장.
- 조직 내 통제된 생성형 AI 환경 조성: 맞춤형 LLM을 통해 조직의 필요에 맞게 AI 기능 조정 및 개인정보 보호 조치 마련.
- 콘텐츠 소비 위험 완화하기
- AI 이해 및 인식 교육 제공: 조직 내 AI 사용에 대한 지침을 마련하고, 교육 프로그램을 통해 AI 콘텐츠 소비의 안전성과 책임감 강화.
- AI 출력물 유효성 검사 메커니즘 구축: 콘텐츠 교차 확인 및 검증 시스템 도입으로 AI의 오용 및 고의적 오용 감지.
- 피해 완화 계획 수립: 통제되지 않는 상황에 대비한 리스크 관리 계획 수립 및 신속한 대응을 위한 내부 TF팀 구성.
- 생성형 AI는 큰 변화를 예고하지만 리스크도 동반하게 됩니다. 경영진은 이를 조기에 관리하며 책임감 있게 AI를 활용해야 합니다.
생성형 AI는 큰 변화를 예고하지만 리스크도 동반하게 됩니다. 경영진은 이를 조기에 관리하며 책임감 있게 AI를 활용해야 합니다.
출처 | “4 Types of Gen AI Risk and How to Mitigate Them” by Isik, Amit Joshi, and Lazaros Goutas HBR, May 31, 2024
|
컨설팅 이야기_2024_8월_thumbnail.png(750.9 KB)
