본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.
https://fastcampus.info/4oKQD6b
251220(토) 39일차
AI 서비스 구현에 필요한 기술 검토(운영 AI 서비스 지속가능성 검토)
AI 서비스 지속 가능성에 대한 검토 부분은
우리가 좋은 기술을 찾았고 고퀄리티의 데이터를 찾았다고 하더라도 지속 가능한지가 중요
일반 서비스 기획의 로직처럼 a가 나오면 b가 나와야 되는 형태의 공식이 아니기 때문에
AI의 특성을 봤을 땐 지속 가능한 결과를 만들기 위한 구조 전체적인 제반 사항들을 구성하는 기획이 PM으로서 중요한 영역
큰 구조적으로 봤을 땐 일반 서비스 기획과 비슷하다고 느낄 수 있지만
지속 가능한 결과를 만들어내는 과정 자체가 일반 서비스 기획 영역과는 다소 차이가 있는 부분
보통 세 가지 영역으로 지속 가능성에 대한 검토를 하게 된다
기술적 지속 가능성
개발팀이나 AI 관련된 팀들과 지속적으로 논의해야 되는 부분인데 결국 AI 모델의 성능과
우리가 계속 성장하는 서비스를 만든다고 봤을 때 그 시스템이 확장성을 갖는지, 기술 스택이 계속 업데이트 지원을 받을 수 있는 형태의 구성을 갖고 있는지 등을 검토하는 영역
결국 AI의 결과가 시간의 흐름에 따라 편차 없이 유지가 되어야 하는 형태가 이 부분에서 중요한 상태
운영적 지속 가능성
POPM이 더 신경 써야 되는 부분
결국 이 서비스가 인프라적으로 얼만큼 확장이 가능한지를 계속 모니터링해야되고
유지보수에 대한 용이성 - AI 서비스가 업데이트가 계속 발생할 텐데 이런 것들이 결국에는 잘될 수 있는 유지 보수의 환경을 갖고 있는지를 종합적으로 판단해 조정해 나가야 하고
AI에 계속 들어오는 데이터를 어떤 주기로 받을 지, 보안적인 장치는 어떻게 돼있는지 등에 대해 계속 체크해 나가야 된다
거버넌스와 프로세스 관점에서의 지속성이라고 보면 될 것
경제적 지속 가능성
비즈니스적인 부분이랑 좀 더 밀접하게 관련이 있는데
결국은 AI를 도입하기 위해서 사용했던 비용에 대한 효율성 체크,
AI 서비스로 수익이 나는 구조를 고려해야 기술도 발전시키고 데이터를 좀 더 살수 있고
장기적인 비용의 경우 AI에서 어려운 부분인데 많은 데이터, 트랜잭션, GPU를 활용하기 때문에 갑자기 비용이 튈 수도 있고
여러 변수들이 많기 때문에 그런 부분을 어떻게 컨트롤해 나가면서 장기적으로 회사의 비즈니스 종속성을 가질 수 있는지 체크
결과론적으로 사업적인 측면에서 이 문제 해결을 위해서 도입한 AI가 계속 유용할지를 검토하는 부분
위 세 가지를 균형있게 맞춰서 가는 것이 중요
AI 지속 가능성에 대한 핵심검토 프로세스
성능 관리 및 유지보수
어떤 주기로 누가 어떻게 할 것인지에 대한 플랜과 최적화를 진행하는데 또 자주 있으면 안되기 떄문에 구체적인 일정을 갖고 진행해야 한다
데이터 관리 및 업데이트
데이터를 얼만큼의 주기로 받을지, 이 데이터가 최신 데이터인지에 대한 부분,
데이터를 합치는 과정이 있기 때문에 여기에 대한 모니터링도 고려해야 한다
비용관리 및 최적화 프로세스
예상치 않게 너무 많은 데이터를 받게 되면 AI 개발자는 좋아하겠지만 인프라나 비용 관점에서는 좋아하지 않고
이런 부분이 밸런스 있게 고려가 돼야 한다
이번 강의를 통해
AI 서비스의 난이도는 구축이 아닌 운영과 유지에 있다는 점
AI 서비스는 일반 서비스처럼 조건에 따른 결과가 항상 같게 나오는 구조가 아니기 때문에
결과의 일관성과 품질을 유지하기 위한 구조 자체를 기획해야 한다는 관점이 인상적이었다
