본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.
https://fastcampus.info/4oKQD6b
251223(화) 42일차
AI 서비스 구현의 성능과 비용 관점에서의 구조 검토
AI 서비스는 문제를 잘 해결해준다고 하더라도 회사가 유지가 돼야 되기 때문에 경영 지속 가능한 형태로 유지될 수 있도록 하는 것이 핵심이자 본질
그렇기 때문에 AI 서비스의 효율성과 효과성 두 개를 잡을 수 있는 최적의 구간을 찾는 것이 중요
성능은 AI 서비스의 효율성과 품질
비용은 서비스 개발과 운영에 필요한 모든 자원
비용을 적게 쓰면서 성능을 올릴 수 있는 방향성으로 이동시키는 것이 중요
비용 관리를 잘 못하게 되면 AI 서비스가 잘 안되고 결국에는 비즈니스의 지속 가능성까지 영향을 주기 때문에 잘 고려하기
AI 성능과 비용에 대한 검토 기준 5가지
모델 성능
- 모델의 정확성
- 처리 속도
- 응답 시간
시스템 성능
- 시스템 확장성
- 시스템 가용성
개발 비용
- 모델 개발
- 데이터 수집, 전처리
- 인프라 구축 비용
운영 비용
- 클라우드 인프라 비용
- 데이터 저장, 처리 비용
- 네트워크 비용
유지보수 비용
- 시스템 업데이트
- 버그 수정
- 성능 최적화
성능 부분은 보안을 준수하면서 성능을 유지해야 되는 숙제가 있어 비용을 적절하게 고려해야 한다
또한 비용에 인건비를 반드시 포함해야 된다
인건비가 적지 않기 때문에 개발 비용 또는 운영 비용에 포함될 수도 있고
인건비가 결국에는 향후에 AI의 고도화나 트랜지션 증가에 따라 증분을 계산해 결국에는 성능과 비용에 대한 밸런스를 유지해야 한다
성능과 비용 최적화
성능 최적화
모델 최적화 - 코드를 경량화하거나 튜닝을 통해 모델이 적은 소스 코드로도 잘 돌아갈 수 있게 한다
시스템 최적화 - 캐싱, 로드 밸런싱, 서버 스케일링 같이 시스템 자체의 성능을 효율적으로 돌아갈 수 있도록 하는 기법일 수도 있고 AWS의 경우 솔루션을 제공하기도 함
비용절감전략
최적화와 맞닿아 있는 내용인데
클라우드 비용 절감 - 사용량에 따라 유연하게 조절, 최적화를 위한 장치도 제공
데이터처리비용 절감 - 데이터도 결국 비용이기 떄문에 효율적인 저장 방식을 택해야 하고 데이터에 대한 전송량, 범위도 AI 서비스의 퀄리티에 맞게끔 조정해서 절감해야 한다
이번 강의를 통해
AI 서비스는 문제를 잘 해결하는 것만으로는 부족하고 회사가 계속 살아남을 수 있는 구조여야 한다는 점
아무리 성능이 뛰어난 AI 서비스라도 비용 구조가 감당되지 않거나 운영 부담이 계속 커지는 형태라면 결국 서비스는 중단될 수 밖에 없으니 성능과 비용의 균형을 찾는 것이 AI 서비스 기획의 본질이라는 것을 다시금 느꼈다
